ŚFiNiA

Michał Dyszyński

Parę lat temu, gdy jeszcze sztuczna inteligencja nie była tak rozpowszechniona, już tworzony boty komputerowe, które całkiem nieźle imitowały człowieka. Udawały one dyskutanta na tyle sprawnie, że wiele osób nie umiało rozróżnić, czy na czacie rozmawiają z żywą osobą, czy programem komputerowym.
W dzisiejszych czasach, w których sztuczna inteligencja bardzo się rozwinęła, możliwości botów komputerowych wzrosły niesamowicie. Nawet jeden z nich był w stanie skutecznie (!) rywalizować z ludźmi w programie telewizyjnym, gdzie zadaje się pytania uczestnikom, a oni mają sformułować na nie poprawną odpowiedź.

Ten post związany jest w jakimś stopniu także z moją refleksją na postawy dyskusyjne, z jakimi się tu na sfinii spotykam. Część dyskutantów dyskutuje według mnie trochę jak boty. Czasem mam nawet wątpliwość, czy po drugiej stronie siedzi rzeczywisty człowiek. Słynny test Turinga dla maszyny polega na tym, że w rozmowie nie powinno się dać rozróżnić czy mamy do czynienia z człowiekiem, czy programem. Wydaje się, że współczesne chatboty jakąś tam formę owego testu przechodzą - w szczególności w rozmowach z nieprofesjonalistami, w luźnych dyskusjach.
Co jest słabą stroną bota, w kontekście ewentualnego wykrycia, że nie jest on realnym człowiekiem?
- Odpowiedź jest dość oczywista: ZROZUMIENIE.
Człowiek tym różni się od bota, że rozumie, co się do niego pisze. Dlatego nowoczesne systemy CAPTCHA (CAPTCHA to akronim od Completely Automated Public Turing test to tell Computers and Humans Apart) bazują na jakiejś postaci rozumienia, np. związane są z pytaniem do obrazków na których jest sporo obiektów, zaś rozwiązujący test ma wskazać np. obrazki z czerwonymi pojazdami. W takiej sytuacji trudno jest zautomatyzować maszynowo odczyt owych obrazków, bo rozpoznanie, że hulajnoga, samochód, czy pociąg są pojazdem i powiązanie ich jeszcze z czerwonym kolorem wymaga całkiem zaawansowanych funkcji kognitywnych.

Strategia twórców botów, zapobiegająca zdemastkowaniu
Twórca bota, który chce dobrze udawać człowieka, robi wszystko, aby jego dzieło nie dało się zdemaskować. Piętą achillesową programów jest zrozumienie, objawiające się ROZUMNĄ ODPOWIEDZIĄ NA POSTAWIONY PROBLEM. Prosty, nie wymagający głębszego zrozumienia problem, może być obsłużony całkiem sprawnie przez SI (czyli sztuczną inteligencję - po angielsku AI), a przynajmniej daje się tu stosować jakąś postać zmyłkowych reakcji. Np. gdyby ktoś postawił problem: czy koty są drapieżnikami? to dobry system sztucznej inteligencji, robiąc tylko statystyki słów kluczowych "kot" i "drapieżnik", w powiązaniu ze słowem kluczem zapytania "czy" mógłby, tylko dokonując analizy statystycznej z internetu i analizując składnię odpowiedzieć "tak, kot jest drapieżnikiem".
Faktem jest, że w ogóle odpowiedź na tego rodzaju pytanie już wymagałaby nie takiego prostego bota. Najprostsze boty próbują (wlaściwie to próbują ich twórcy, ale w tym tekście zastosuję skrót myślowy personifikując boty) nie dać się wykryć za pomocą UNIKANIA OKAZYWANIA SWOJEJ REAKTYWNOŚCI OPARTEJ O ZROZUMIENIE, a także przykrywanie słabości w zrozumieniu aktywnością w innych postaciach - inicjowaniem już bardziej bezpiecznych obszarów konwersacji. Jak to można zrobić?
- Standardowym sposobem botów jest częste odpowiadanie pytaniem na pytanie.
- Technikami pomocniczymi jest zatrudnianie dyskutanta, aby to raczej on coś musiał wymyślać.
Ciekawe informacje na ten temat można przeczytać np. w tym artykule: [link widoczny dla zalogowanych]
i tu: [link widoczny dla zalogowanych]
Można też (po angielsku) poczatować sobie z Evą: [link widoczny dla zalogowanych]

Warto zwrócić uwagę na to, jak prowadzi tradycyjny bot rozmowę, aby dobrze udawać człowieka. Oto fragment rozmowy prowadzonej przez słynny historyczny bot terapeutyczny ELIZA:
BOT ELIZA: Jak się masz. Proszę, powiedz mi o swoim problemie.
TY: Mam problem z utrzymaniem moich roślin doniczkowych przy życiu.
ELIZA: Twoje rośliny doniczkowe żyją?
TY: Tak, czasami zapominam je podlać.
ELIZA: Na pewno.
TY: Jestem pewien.
ELIZA: Czy znasz kogoś, kto jest pewien?
TY: Moje rośliny są pewne.
ELIZA: Dlaczego mówisz, że twoje rośliny są pewne?
TY: Ponieważ ponoszą bezpośrednie konsekwencje tego, że ich nie podlewam.
ELIZA: Czy ten powód wydaje się wyjaśniać cokolwiek innego?
Jak się przyjrzeć analitycznie temu kawałkowi rozmowy, to widać dobrze co "robi" bot ELIZA, aby nie dać się zdemaskować:
1. Na 6 zamieszczonych tu wypowiedzi ELIZY aż 4 są pytaniami - pytanie można łatwo zaprojektować, aby nie trzeba było użyć responsywności, czy rozumienia do jego stworzenia.
2. To pierwsze nie pytanie jest z kolei ZADANIEM dla drugiej strony, czyli znowu nie sposób jest tu kogoś podchwycić na niezrozumieniu, skoro to bot się czegoś domaga.
3. Odpowiedź "na pewno" z kolei jest typu tych uniwersalnych, pasująca do większości stwierdzeń, czyli też jest bardzo bezpieczna pod kątem możliwości wykrycia, że bot niczego nie rozumie z "prowadzonej" rozmowy.

Gdyby jakoś wskazać techniki, które utrudniają zdemaskowanie programu dyskusyjnego, udającego ludzkiego dyskutanta (myślę, już bardziej konkretnie o dyskusjach podobnych to tych na naszym forum), to mam następującą propozycję:
1. Głosić z maksymalną arbitralnością - po prostu wszystko ma być przyjmowane "jak jest", jak ktoś głosi, zaś wtedy UZASADNIENIA I TŁUMACZENIA NIE SĄ OCZEKIWANE
2. Na monity o wyjaśnienie czegoś, zajęcie stanowiska, które świadczyłoby o zrozumieniu, można posiłkować się odpowiadaniem PYTANIEM NA PYTANIE
3. Starać się dawać zadania do wykonania - zadanie może być zdefiniowane łatwo, można stosować tu z góry założone szablony.
4. Bezpieczniejsze jest wyrażenie niezadowolenia (w szczególności powiązanego z jakimś roszczeniem), niż akceptacji względem stwierdzeń. Akceptacja bowiem jest jakimś automatycznym zadeklarowaniem zrozumienia sprawy, co jest do zweryfikowania dalej. Negacja, szczególnie jeśli nie wskazuje niczego konkretnie, może być w przyszłości dowolnie interpretowana. Ludzie, którzy negują bez trudu mogą w przyszłości się wyprzeć związku z jakąkolwiek tezą, czyli wybronić przed zarzutem o niespójność rozumowania, świadczącego o nierozumieniu zagadnienia.
5. Ważna jest OGÓLNA RETORYKA - polegająca na tym, że zniechęca się wszystkimi środkami do uznania, iż dyskutant - bot, miałby cokolwiek tłumaczyć. Chodzi o stworzenie narracji, w której ten rozmówca NIE MA WYKAZYWAĆ SIĘ TWÓRCZOŚCIĄ, NIE MA ODPOWIADAĆ INTERAKTYWNIE. W ramach tej retoryki jest zatem celowe zdobycie pozycji obcesowego, nieprzystępnego, a silnie roszczeniowego i arbitralnie wszystko oceniającego aroganta. Pozycja aroganta, czyli kogoś, kto z racji "dominującego charakteru" nie słucha nikogo, NIE DOSTOSOWUJE SIĘ I NIE SPEŁNIA ZEWNĘTRZNYCH WYMOGÓW, pozwala na "usprawiedliwienie" (a przynajmniej stwarza takie pozory, daje motyw) dla postaw
- nie odpowiadania na pytanie
- nie wyjaśniania o co wcześniej chodziło
- nie odnoszenia się do własnych stwierdzeń, nie wiązania ich więzami logicznymi
- ogólnie traktowania, jakby każde sformułowanie było osobne, jakby dyskutant - bot NIE BYŁ ZOBOWIĄZANY do niczego, bo to przecież z zasady to on narzuca, on zobowiązuje...
6. Aby osiągnąć pozycję opisaną w 5 cennym chwytem uzupełniającym jest wzbogacenie bota o "osobowość" napastliwą, chętnie wypowiadającą się silnie ocennie, ad personam i "denerwującą się", gdy ktokolwiek cokolwiek od niej by chciał.
7. Należy też dla "osobowości" owego bota dorzucić przekonanie o tym, że jest ona "domyślnie roztargniona, ze swojego charakteru nie trzymająca się tematu, ROZKOJARZONA". Ponieważ tacy ludzie się zdarzają, więc zawsze można usprawiedliwić bota, iż on właśnie tak odczuwa i postrzega.
8. Pewną zmyłką jest posiłkowanie się często cudzymi wypowiedziami, wklejenie jakiejś definicji. Dla bota to nie jest problem, bo wystarczy, że rozpozna słowo kluczowe, a potem po prostu przeklei zawartość z jakiejś ogólnodostępnej bazy.
9. Dla niepoznaki i dopełnienia "osobowości" aroganckiej bota, celowe byłoby dorzucenie (być może nie od razu uruchomionej) funkcji stawiania drugiej stronie TAKICH ZARZUTÓW, JAKIM SAMA ZASADNIE MOGŁABY PODLEGAĆ. Kto pierwszy postawi zarzut drugiej stronie o to, że ona "nie odpowiada na pytania", albo "nie trzyma się tematu, odpowiadając jak bot", "nie rozumie, co tu było napisane" zdobywa w dyskusji swoistą przewagę, bo trudniej jest potem odkręcać wszystko przeciw takiemu zarzucającemu.
10. Dodatkiem może być publikowanie przez bota różnych truizmów, czy innych złotych myśli o bardzo uniwersalnym charakterze. To sprawia wrażenie ludzkiego podejścia, a jednocześnie przedłuża konwersację w bezpieczny sposób.
Bo ogólnie bezpieczne jest to, gdy BOT NIE MUSI SIĘ DOSTOSOWYWAĆ (czego nie będzie umiał, bo nawet nie rozumie do czego miałby się dostosowywać), to niech jego rozmówca się dostosowuje...

Spełniając powyższe warunki (można je oczywiście jeszcze rozbudowywać) szansa na zdemaskowanie bota będzie drastycznie zmniejszona. Przy względnie dobrze zaprojektowanej "osobowości", sprawnym systemie budowy poprawnej składni językowej, powiązanej ze sprawnym przeszukiwaniem zasobów rozmów (internet), w typowej rozmowie bot będzie nieodróżnialny od człowieka pewnie dla 95% rozmówców (tak obstawiam).

Dodam tutaj, że niejednokrotnie szczerze (!) się zastanawiałem, czy niektórzy ze sfinskich dyskutantów naprawdę (!) nie są botami. W szczególności miałem takie podejrzenia wobec:
- pewnej dyskutantki, która "odpowiadała" na post, pisząc w nim coś totalnie odmiennego od tematyki (np. pisała co zjadła na obiad w dyskusji o epistemologii)
- osób, które tylko linkują, albo tylko wklejają cudze teksty, nie wyrażając dla nich żadnego osobistego zdania, czy nie dając komentarza
- pewnego dyskutanta, które nagminnie żąda, aby jakieś tam zadanie zostało wykonane, samemu nie odpowiadając na żadne pytania względem niego. A lista żądań i pytań jest niewyczerpana
- osób, które nie wykazują się RESPONSYWNOŚCIĄ i PRAGNIENIEM ZROZUMIENIA. Bo to one zawsze żądają, one są niezadowolone z wypowiedzi innych, to ONE OCENIAJĄ (niemal wyłącznie negatywnie)
- dyskutantów, które produkują WYŁĄCZNIE EPITETY PERSONALNE, nie odnosząc się w jakikolwiek sposób do meritum dyskusji. Takie epitety pasują z reguły do dowolnej dyskusji, ignorują kwestię zrozumienia problematyki dyskusji.
- dyskutantów wiecznie aroganckich - arogancja jest bardzo skutecznym sposobem na umotywowanie, dlaczego dana osoba nie spełnia tych kryteriów, jakich np. oczekujemy aby testem odróżnić człowieka od bota. To jest bardzo dobre alibii.

Z drugiej strony dodam, że choć co do części dyskutantów na sfinii to nie jestem do końca pewien, czy nie są oni botami (patrz lista akapit wyżej - im więcej punktów z niej jest spełnionych, tym większe prawdopodobieństwo kontaktu z botem), to są i tacy, co do których nie mam najmniejszych wątpliwości, że jednak są ludźmi.
Kluczem do uznania dyskutanta za człowieka byłyby odpowiedzi charakteryzując się:
- klarownym NAWIĄZANIEM do treści, o której mowa
- ZROZUMIENIEM STAWIANYCH PROBLEMÓW, sygnalizowaniem jego omówieniem we własnym komentarzu w szczególności Z UŻYCIEM WŁASNYCH SFORMUŁOWAŃ, także własnych, autorskich podejść do sprawy
- TWÓRCZYM TRAKTOWANIEM zagadnienia - dorzucaniem własnych pomysłów, które jednak nie są tylko pobocznymi spostrzeżeniami, lecz JAWNIE TRAFIAJĄ W SEDNO.
- Wykazywaniem LUDZKICH EMOCJI (ostatecznie niektóre podejrzenia co do tego, że mam do czynienia z botem na sfinii, rozwiały mi dopiero jakieś okazania tychże emocji, choć długo miałem wątpliwości...),. Co ważne jednak te emocje powinny tworzyć jakieś sekwencje, budować jakąś całość osobowościową.

Oczywiście moje podejrzenia co do bycia botami sfiniskich dyskutantów nie były silne, były to raczej drobne wątpliwości, ale były. A nawet jeślibym skreślił samo takie podejrzewanie kogokolwiek na sfinii o bycie botem, to i tak niejednokrotnie o wielu dyskutantach myślałem sobie coś w stylu: a ty, robaczku, w tych ostatnich swoich dyskusjach JESTEŚ NIEODRÓŻNIALNY OD BOTA. Może więc i człowiekiem jesteś, ale nie specjalnie dużego formatu - tylko przewidywalnym, zaprogramowanym, wtórnym, bez wyraźnego rysu OSOBISTEGO ROZUMIENIA I LUDZKIEJ AMBICJI - w szczególności AMBICJI WYTŁUMACZENIA KOMUŚ WŁASNEGO STANOWISKA. A chodzi o wytłumaczenie jak najbardziej DOSTOSOWAWCZE, POSZUKUJĄCE, UWZGLĘDNIAJĄCE CHARAKTER ODBIORCY, świadczące o czuciu i WYCZUCIU.

O tej ambicji tylko dodam krótko na koniec. Odczucie (oczywiście jakoś niewerbalne) właśnie jakiejś postaci ambicji, czyli odpowiadanie z nutą swoistego "nerwu osobowościowego" zwiastującego ambicję, jest według mnie wyraźnym wskazaniem na człowieczeństwo. Choć też się zastanawiam, czy takiej ambicji sprytny program nie potrafiłby symulować...

Michał Dyszyński

Przed chwilę odbyłem krótką konwersację z chatbotem Eva. Pięknie potwierdziła ona moje spostrzeżenia z poprzedniego posta. Na serię 10 moich wypowiedzi - odpowiedzi, aż 7 odpowiedzi bota Eva zawierało pytania.
Strategia odpowiadania, stosowana przez bota, ogniskowała się wokół pewnych truizmów, dowiązanych do słów kluczowych, których użyłem.