ŚFiNiA

Michał Dyszyński

Egzamin z psychologii unieważniono. Bo najlepsze wyniki na nim były związane z użyciem SI.
[link widoczny dla zalogowanych]

Michał Dyszyński · Wysłany: Sob 18:24, 15 Mar 2025 Temat postu:

Ciekawy efekt się ujawnił w rozwoju AI: [link widoczny dla zalogowanych]
Zgłaszał mi to też pewien mój kolega, który wdał się w zażartą dyskusję z jednym z modeli AI w kwestii interpretacji pewnego dzieła artystycznego. Ponieważ mój kolega znał pewne fakty, więc nie dawał się modelowi językowemu zbić z pantałyku w kwestii, że jest inaczej, niż to on uważa. Gdy zaczął się dopominać od AI konkretnego wskazania źródeł, na których oparta była interpretacja modelu AI, to okazało się, że źródła zostały niby podane, ale w postaci sfałszowanej. Bo tak naprawdę w owych źródłach był inny tekst.
Widać, że problem jest powszechny. Ale wydaje mi się o tyle ciekawy, że pokazuje on pewną prawdę epistemologiczną, którą można by sformułować w postaci swoistej EPISTEMICZNEJ ZASADY NIEOZNACZONOŚCI:
Dla przynajmniej niektórych interpretacji bazujących na rozmytych danych, nie da się uwzględnić w idealnej, niezafałszowanej postaci wszystkich danych, zachowując przy tym SPÓJNOŚĆ KONCEPCJI.
Jeśli źródła są rozmyte, a więc występuje w nich jakaś postać niespójności, to albo trzeba zrezygnować ze spójności koncepcji, czyli traktować zagadnienie raz tak, a raz na odwrót w zależności od tego, które źródło aktualnie rozważamy, albo (w przypadku gdy chcemy zachować spójną koncepcję), trzeba będzie oszukiwać przy interpretacji tego, albo innego źródła.

Wg nie problem ze sztuczną inteligencją, związany jest z powyższą zasadą. Nie da się idealnie pogodzić tych dwóch aspektów - zgodności ze źródłami, które są niespójne (najczęściej są jakoś niespójne) i spójności samej koncepcji. Coś trzeba zatem pominąć, gdzieś oszukać. I sztuczna inteligencja tak właśnie robi (bo nie ma moralnych paradygmatów jak ludzie, nie wie, że "oszukuje", bo dla niej wszystko jest zadaniem, związanym z maksymalizacją pewnych parametrów algorytmów uczenia się). Można mieć pretensję do AI, ale bardziej należy mieć pretensję do siebie - że gdy się stawia sprzeczne warunki dla AI, żądając ich wypełnienia, to ona musi gdzieś oszukać.