console version 6: allow caller to know whether console window was closed

git-svn-id: svn://kolibrios.org@1133 a494cfbc-eb01-0410-851d-a64ba20cac60

programs/develop/libraries/console/console.asm

@@ -81,6 +81,7 @@ con_init:
         xor     eax, eax
         rep     stosb
         pop     edi
+        and     byte [con_flags+1], not 2
 ; create console thread
         push    51
         pop     eax
@@ -119,6 +120,7 @@ con_get_flags:
 ; dword __stdcall con_set_flags(dword flags);
 con_set_flags:
         mov     eax, [esp+4]
+        and     ah, not 2
         xchg    eax, [con_flags]
         ret     4
 
@@ -1178,8 +1180,11 @@ con_set_title:
 
 ; int __stdcall con_kbhit(void);
 con_kbhit:
+        test    byte [con_flags+1], 2
+        jnz     @f
         mov     eax, [con.input_start]
         cmp     eax, [con.input_end]
+@@:
         setnz   al
         movzx   eax, al
         ret
@@ -1189,6 +1194,8 @@ con.force_entered_char:
         jnz     .ret
         mov     [con.thread_op], 4
         call    con.wake
+        test    byte [con_flags+1], 2
+        jnz     .ret
 ; wait for response
         push    ebx
         push    5
@@ -1206,6 +1213,8 @@ con.force_entered_char:
 ; int __stdcall con_getch(void);
 con_getch:
         call    con.force_entered_char
+        test    byte [con_flags+1], 2
+        jnz     con_getch_closed
         movzx   eax, byte [con.entered_char]
         sar     [con.entered_char], 8
         mov     byte [con.entered_char+1], 0xFF
@@ -1215,22 +1224,29 @@ con_getch:
 @@:
         ret
 
+con_getch_closed:
+        or      eax, -1
+        ret
+
 ; int __stdcall con_getch2(void);
 con_getch2:
         call    con.force_entered_char
+        test    byte [con_flags+1], 2
+        jnz     con_getch_closed
         mov     eax, 0xFFFF
         xchg    ax, [con.entered_char]
         ret
 
-; void __stdcall con_gets(char* str, int n);
+; char* __stdcall con_gets(char* str, int n);
 con_gets:
         pop     eax
         push    0
         push    eax
-; void __stdcall con_gets2(con_gets2_callback callback, char* str, int n);
+; char* __stdcall con_gets2(con_gets2_callback callback, char* str, int n);
 con_gets2:
+        mov     eax, [esp+8]            ; str
         pushad
-        mov     esi, [esp+20h+8]        ; str
+        mov     esi, eax                ; str
         mov     ebx, [esp+20h+12]       ; n
         sub     ebx, 1
         jle     .ret
@@ -1239,6 +1255,8 @@ con_gets2:
         call    con.get_data_ptr
 .loop:
         call    con_getch2
+        cmp     eax, -1
+        jz      .closed
         test    al, al
         jz      .extended
         cmp     al, 8
@@ -1534,6 +1552,8 @@ con_gets2:
 @@:
         dec     esi
         jmp     .update_screen_and_loop
+.closed:
+        and     dword [esp+1Ch], 0
 .ret:
         popad
         ret     12
@@ -1605,6 +1625,7 @@ con.wake:
         push    2
         pop     ebx
         mov     ecx, [con.console_tid]
+        jecxz   .ret
         mov     edx, con.thread_op
         push    1
         pop     esi
@@ -1666,6 +1687,8 @@ con.msg_loop:
 con.button:
 ; we have only one button, close
 con.thread_exit:
+        or      byte [con_flags+1], 2
+        and     [con.console_tid], 0
         or      eax, -1
         int     0x40
 con.key:
@@ -2249,7 +2272,7 @@ con.vscroll_pt      dd    -1
 align 16
 EXPORTS:
         dd      szStart,                START
-        dd      szVersion,              0x00020005
+        dd      szVersion,              0x00020006
         dd      szcon_init,             con_init
         dd      szcon_write_asciiz,     con_write_asciiz
         dd      szcon_printf,           con_printf

programs/develop/libraries/console/console.txt

@@ -86,6 +86,9 @@ dword __stdcall con_set_flags(dword new_flags);
 	Esc[<number>C - переместить курсор на <number> позиций вправо
 	Esc[<number>D - переместить курсор на <number> позиций влево
 */
+/* сигнал о закрытии окна консоли;
+	флаг игнорируется функцией con_set_flags */
+#define CON_WINDOW_CLOSED 0x200
 Значение по умолчанию для флагов = 7.
 
 int __stdcall con_get_font_height(void);
@@ -105,24 +108,32 @@ int __stdcall con_getch(void);
 Для обычных символов возвращается ASCII-код. Для расширенных символов
 (например, Fx и стрелочек) первый вызов функции возвращает 0,
 а повторный вызов возвращает расширенный код (подобно DOS-функциям ввода).
+Начиная с версии 6 библиотеки, после закрытия окна консоли возвращается
+значение -1.
 
 word __stdcall con_getch2(void);
 Считывает один символ с клавиатуры. Младший байт содержит ASCII-код клавиши
 (0 для расширенных символов), старший - расширенный код
 (подобно BIOS-функциям ввода).
+Начиная с версии 6 библиотеки, после закрытия окна консоли возвращается
+значение -1 (0xFFFF при интерпретации как word).
 
 int __stdcall con_kbhit(void);
 Возвращает 1, если какая-то клавиша была нажата, 0 иначе. Для считывания
 нажатой клавиши предназначены функции con_getch и con_getch2.
+Начиная с версии 6 библиотеки, после закрытия окна консоли всегда возвращает 1.
 
-void __stdcall con_gets(char* str, int n);
+char* __stdcall con_gets(char* str, int n);
 Считывает строку с клавиатуры. Ввод прерывается при поступлении символа
 новой строки, а также по прочтении n-1 символа (в зависимости от того, что
 произойдёт раньше). В первом случае символ новой строки также записывается в
 str. Считанная строка дополняется нулевым символом.
+Начиная с версии 6 библиотеки, функция возвращает указатель на введённую
+строку при успешном чтении и NULL, если окно консоли было закрыто. До версии
+6 возвращаемое значение было неопределено.
 
 typedef int (__stdcall * con_gets2_callback)(int keycode, char** pstr, int* pn, int* ppos);
-void __stdcall con_gets2(con_gets2_callback callback, char* str, int n);
+char* __stdcall con_gets2(con_gets2_callback callback, char* str, int n);
 Функция появилась в версии 4 библиотеки.
 Полностью аналогична con_gets за исключением того, что когда пользователь
 нажимает нераспознанную клавишу, вызывается указанная callback-процедура
@@ -134,6 +145,9 @@ void __stdcall con_gets2(con_gets2_callback callback, char* str, int n);
 Возвращаемое значение: 0=строка не менялась; 1=строка изменилась, необходимо
 удалить старую и вывести новую; 2=строка изменилась, необходимо её вывести;
 3=немедленно выйти из функции.
+Начиная с версии 6 библиотеки, функция возвращает указатель на введённую
+строку при успешном чтении и NULL, если окно консоли было закрыто. До версии
+6 возвращаемое значение было неопределено.
 
 void __stdcall con_cls();
 Функция появилась в версии 5 библиотеки.