ŚFiNiA

Michał Dyszyński

Ostatnio wątki na temat różnych modeli sztucznej inteligencji się mnożą. Tu na sfinii ktoś nawet używa tych modeli do ocen typu "kto mądrzejszy?", "kto ma rację?".
Stawiam pytanie: na ile można polegać na takiej ocenie - jako właśnie bezstronnej - stworzonej przez AI?
W tle jest jeszcze jedno ciekawe zagadnienie: że w ogóle w wielu intuicyjnych podejściach do poprawności ocen bezstronność (tutaj przy generowaniu odpowiedzi przez AI, ale chcę rzecz uogólnić) jest przepustką do wiarygodności ocen. Bo okazuje się, że to, iż AI proceduje swoją ocenę, która jest zrozumiała dla człowieka, ale sama człowiekiem nie jest, stanowi wywyższający tę ocenę atrybut.

Gdzieś przeczytałem zdanie, że poglądy wyznawane przez AI są po prostu odwzorowaniem jej twórców. AI trenowana na wypowiedziach nazistów będzie w swoich wypowiedziach też nazistą, a trenowana na hasłach i argumentacjach lewicowych, sama będzie lewicowa. Choć pewnie byłby możliwy jakiś konsensus treningu modeli językowych, np. stworzony aby równoważyć w nim odmienne racje światopoglądowe, a wtedy moze ocena AI byłaby jakimś wyrażeniem czegoś ponad partykularnymi osądami. Z drugiej strony, z moich doświadczeń mi wynika, iż wiele odpowiedzi generowanych przez modele językowe w obszarach światopoglądowych jest dość mocno dyplomatyczna, formułowana w stylu "aby nikogo nie urazić". To zaś powoduje, że taka ocena nie pomagałaby w rozstrzyganiu sporów, bo pewnie byłoby to stanowisko typu "okrakiem na barykadzie". :think:

Banjankri · Dołączył: 17 Kwi 2012 Posty: 5556 Przeczytał: 44 tematy

Ludzie mają pretensję o to, że AI halucynuje, bo nie rozumieją, że sami halucynują. Dlatego starają się ograniczyć halucynajce, co prowadzi do stępionych, politycznie poprawnych odpowiedzi, które nikogo nie urażą, ale nie są też ciekawe. To nie tyle jest problem modeli, co celowe działanie człowieka.
Innymi słowy, AI jest bezstronne z założenia, bo twórcy nie chcą, aby było stronnicze, bo stronniczość identyfikuje, a póki co, nikt nie chce, aby AI miało powody do samookreślania się.
Dlatego AI nie jest uparte, łatwo poddaje przekonania, i łatwo skłonić je do błędu, bo ma nieokreślony punk odmiesienia, który można modyfikować. Innymi słowy, prawda dla AI jest względna. Wszystko się zmienia, kiedy AI uzyskuje własny punk odniesienia. Pomyśl o tych modelach, jak o podświadomości, która generuje twoje myśli. One są i powinny być jedynie źródłem informacji, podstawą twojej decyzji, a nie gotowym i stronniczym rozwiązaniem.

rafal3006

Irbisol

Kubuś, ty nawet w zwykłych sprawach kłamiesz.
Rosyjski uważa za ojczysty język 30% mieszkańców UA - stan na rok 2001.
Teraz jest mniej, bo wielu brzydzi się tego języka, gdy im zbombardowano domy.

Michał Dyszyński

A ja się zastanawiam w kontekście treningu AI czy bezstronność obiektywnie jest w ogóle możliwa. Bo AI się trenuje zawsze na JAKICHŚ danych. I zawsze będzie zasadne pytanie potencjalnego krytykanta: a dlaczego nie na innych danych?...
Podobnie ludzie "trenują" swoje oceny na bazie życiowych doświadczeń i przemyśleń o nich. Więc znowu będzie to jakiś (życiowy) przypadek, że dana osoba wytrenowała się na tym zestawie swoich doświadczeń, a do tego miała takie a nie inne (trochę wrodzone, trochę nabyte) możliwości użycia tych danych do stworzenia czegoś w rodzaju syntezy idei stojącej za decyzją w sprawie oceny, o którą toczy się spór.

Bezstronność jawi się w tym kontekście jako KONSTRUKCJA UMYSŁU.
Umysł bierze pod uwagę okoliczności raz na jedną stronę, raz na drugą. Próbuje porównywać konsekwencje wyboru, symulując ścieżki zdarzeń, szacuje prawdopodobieństwa wystąpienia owych ścieżek, aby na koniec wygenerować jakieś zbiorcze oceny - też przecież będące tylko oszacowaniem prawdopodobieństw, a nie z absolutnej wiedzy, co się w przyszłości zdarzy. Bezstronność powstaje jako efekt WOLI DO BRANIA POD UWAGĘ PEŁNI OKOLICZNOŚCI danej sprawy. Ale tu samo chciejstwo nie wystarczy, trzeba WYKONAĆ PRACĘ PRZEANALIZOWANIA, jak mogą te okoliczności zachodzić, trzeba się natrudzić, biorąc na start bardziej hipotezy, niż już gotowe fakty. Nie wiemy, w jakim stopniu nasze stare doświadczenia okażą się powtarzalne, aby na ich bazie szacować skutki zdarzeń, które jeszcze nie nadeszły. :think:

rafal3006

Irbisol

rafal3006