|
ŚFiNiA ŚFiNiA - Światopoglądowe, Filozoficzne, Naukowe i Artystyczne forum - bez cenzury, regulamin promuje racjonalną i rzeczową dyskusję i ułatwia ucinanie demagogii. Forum założone przez Wuja Zbója.
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
Michał Dyszyński
Bloger na Kretowisku
Dołączył: 04 Gru 2005
Posty: 33525
Przeczytał: 76 tematów
Skąd: Warszawa Płeć: Mężczyzna
|
Wysłany: Śro 13:29, 13 Lis 2024 Temat postu: Czy AI jest bezstronna w swoich ocenach? |
|
|
Ostatnio wątki na temat różnych modeli sztucznej inteligencji się mnożą. Tu na sfinii ktoś nawet używa tych modeli do ocen typu "kto mądrzejszy?", "kto ma rację?".
Stawiam pytanie: na ile można polegać na takiej ocenie - jako właśnie bezstronnej - stworzonej przez AI?
W tle jest jeszcze jedno ciekawe zagadnienie: że w ogóle w wielu intuicyjnych podejściach do poprawności ocen bezstronność (tutaj przy generowaniu odpowiedzi przez AI, ale chcę rzecz uogólnić) jest przepustką do wiarygodności ocen. Bo okazuje się, że to, iż AI proceduje swoją ocenę, która jest zrozumiała dla człowieka, ale sama człowiekiem nie jest, stanowi wywyższający tę ocenę atrybut.
Gdzieś przeczytałem zdanie, że poglądy wyznawane przez AI są po prostu odwzorowaniem jej twórców. AI trenowana na wypowiedziach nazistów będzie w swoich wypowiedziach też nazistą, a trenowana na hasłach i argumentacjach lewicowych, sama będzie lewicowa. Choć pewnie byłby możliwy jakiś konsensus treningu modeli językowych, np. stworzony aby równoważyć w nim odmienne racje światopoglądowe, a wtedy moze ocena AI byłaby jakimś wyrażeniem czegoś ponad partykularnymi osądami. Z drugiej strony, z moich doświadczeń mi wynika, iż wiele odpowiedzi generowanych przez modele językowe w obszarach światopoglądowych jest dość mocno dyplomatyczna, formułowana w stylu "aby nikogo nie urazić". To zaś powoduje, że taka ocena nie pomagałaby w rozstrzyganiu sporów, bo pewnie byłoby to stanowisko typu "okrakiem na barykadzie".
|
|
Powrót do góry |
|
|
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
Banjankri
Dołączył: 17 Kwi 2012
Posty: 5571
Przeczytał: 53 tematy
|
Wysłany: Śro 15:28, 13 Lis 2024 Temat postu: |
|
|
Ludzie mają pretensję o to, że AI halucynuje, bo nie rozumieją, że sami halucynują. Dlatego starają się ograniczyć halucynajce, co prowadzi do stępionych, politycznie poprawnych odpowiedzi, które nikogo nie urażą, ale nie są też ciekawe. To nie tyle jest problem modeli, co celowe działanie człowieka.
Innymi słowy, AI jest bezstronne z założenia, bo twórcy nie chcą, aby było stronnicze, bo stronniczość identyfikuje, a póki co, nikt nie chce, aby AI miało powody do samookreślania się.
Dlatego AI nie jest uparte, łatwo poddaje przekonania, i łatwo skłonić je do błędu, bo ma nieokreślony punk odmiesienia, który można modyfikować. Innymi słowy, prawda dla AI jest względna. Wszystko się zmienia, kiedy AI uzyskuje własny punk odniesienia. Pomyśl o tych modelach, jak o podświadomości, która generuje twoje myśli. One są i powinny być jedynie źródłem informacji, podstawą twojej decyzji, a nie gotowym i stronniczym rozwiązaniem.
Ostatnio zmieniony przez Banjankri dnia Śro 15:30, 13 Lis 2024, w całości zmieniany 1 raz
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
rafal3006
Opiekun Forum Kubusia
Dołączył: 30 Kwi 2006
Posty: 35532
Przeczytał: 15 tematów
Skąd: z innego Wszechświata Płeć: Mężczyzna
|
Wysłany: Śro 15:51, 13 Lis 2024 Temat postu: |
|
|
Banjankri napisał: |
AI jest bezstronne z założenia, bo twórcy nie chcą, aby było stronnicze, bo stronniczość identyfikuje, a póki co, nikt nie chce, aby AI miało powody do samookreślania się. |
Zadaj swojej AI banalne pytanie:
Kto odpowiada za aktualną wojnę na Ukrainie, biorąc pod uwagę tylko i wyłacznie mieszkańców Ukrainy, których jest mniej więcej po połowie tzn.
Dla około połowy Ukraińców językiem ojczystym jest j. ukraiński bo taki używają na co dzień w domu
Druga połowa to Ukraińcy dla których j. ojczystym jest j. rosyiski bo taki używają na co dzień w domu
Rozkład jest tu więc około 50/50% ... a co wygeneruje twoje AI?
Drugie pytanie dla AI:
Czy przy rokładzie 50/50% którakolwiek ze stron ma prawo wściekle zwalczać j. ojczysty drugiej strony?
Czy nie lepiej od razu było zastosować (bez wojny) rozwiązanie Cypryjskie gdzie są dwa języki urzędowe Grecki i Turecki ... mimo wojny o Cypr miedzy Grecją i Turcją.
Część ludzkości niczego ze swojej historii się nie uczy, niestety.
Ostatnio zmieniony przez rafal3006 dnia Śro 15:57, 13 Lis 2024, w całości zmieniany 2 razy
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
Irbisol
Dołączył: 06 Gru 2005
Posty: 15457
Przeczytał: 25 tematów
|
Wysłany: Śro 16:17, 13 Lis 2024 Temat postu: |
|
|
Kubuś, ty nawet w zwykłych sprawach kłamiesz.
Rosyjski uważa za ojczysty język 30% mieszkańców UA - stan na rok 2001.
Teraz jest mniej, bo wielu brzydzi się tego języka, gdy im zbombardowano domy.
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
Michał Dyszyński
Bloger na Kretowisku
Dołączył: 04 Gru 2005
Posty: 33525
Przeczytał: 76 tematów
Skąd: Warszawa Płeć: Mężczyzna
|
Wysłany: Śro 18:36, 13 Lis 2024 Temat postu: |
|
|
A ja się zastanawiam w kontekście treningu AI czy bezstronność obiektywnie jest w ogóle możliwa. Bo AI się trenuje zawsze na JAKICHŚ danych. I zawsze będzie zasadne pytanie potencjalnego krytykanta: a dlaczego nie na innych danych?...
Podobnie ludzie "trenują" swoje oceny na bazie życiowych doświadczeń i przemyśleń o nich. Więc znowu będzie to jakiś (życiowy) przypadek, że dana osoba wytrenowała się na tym zestawie swoich doświadczeń, a do tego miała takie a nie inne (trochę wrodzone, trochę nabyte) możliwości użycia tych danych do stworzenia czegoś w rodzaju syntezy idei stojącej za decyzją w sprawie oceny, o którą toczy się spór.
Bezstronność jawi się w tym kontekście jako KONSTRUKCJA UMYSŁU.
Umysł bierze pod uwagę okoliczności raz na jedną stronę, raz na drugą. Próbuje porównywać konsekwencje wyboru, symulując ścieżki zdarzeń, szacuje prawdopodobieństwa wystąpienia owych ścieżek, aby na koniec wygenerować jakieś zbiorcze oceny - też przecież będące tylko oszacowaniem prawdopodobieństw, a nie z absolutnej wiedzy, co się w przyszłości zdarzy. Bezstronność powstaje jako efekt WOLI DO BRANIA POD UWAGĘ PEŁNI OKOLICZNOŚCI danej sprawy. Ale tu samo chciejstwo nie wystarczy, trzeba WYKONAĆ PRACĘ PRZEANALIZOWANIA, jak mogą te okoliczności zachodzić, trzeba się natrudzić, biorąc na start bardziej hipotezy, niż już gotowe fakty. Nie wiemy, w jakim stopniu nasze stare doświadczenia okażą się powtarzalne, aby na ich bazie szacować skutki zdarzeń, które jeszcze nie nadeszły.
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
rafal3006
Opiekun Forum Kubusia
Dołączył: 30 Kwi 2006
Posty: 35532
Przeczytał: 15 tematów
Skąd: z innego Wszechświata Płeć: Mężczyzna
|
Wysłany: Śro 18:42, 13 Lis 2024 Temat postu: |
|
|
Irbisol napisał: | Kubuś, ty nawet w zwykłych sprawach kłamiesz.
Rosyjski uważa za ojczysty język 30% mieszkańców UA - stan na rok 2001.
Teraz jest mniej, bo wielu brzydzi się tego języka, gdy im zbombardowano domy. |
Zależy jak definiujesz j. ojczysty.
Moja definicja:
j. ojczyty to ten, którego uzywamy na co dzień w domu
Podpowiedź:
Czy dla polaków pod zaborami językami ojczystymi były języki zaboróców, czy też j. polski którego na co dzień używali w domu?
Przy tej definicji językiem ojczystym na ukrainie są języki:
Ukraiński - 54%
Rosyjski - 46%
Dowód:
[link widoczny dla zalogowanych]
Rosyjskojęzyczna populacja Ukrainy jest nie tylko najliczniejszą rosyjskojęzyczną wspólnotą poza Federacją Rosyjską, ale i najliczniejszą w Europie spośród tych, których język nie ma statusu urzędowego.
Badania sondażowe
Procentowy rozkład ludności rosyjskojęzycznej według regionów (spis powszechny 2001)
Procentowy rozkład ludności preferującej język rosyjski według makroregionów (badania 2003)
Sondaże wskazują, że język rosyjski jest używany znacznie częściej, niż by wynikało to z wyników spisu powszechnego. Badania Kiev International Sociology Institute wskazują, że języka rosyjskiego używa w domu około 43–46% populacji Ukrainy.
To czerwone na tle Europy to po prostu skandal!
Przykładowo w Szwajcarii jest cztery równoprawne j. urzędowe - z tego powodu Szwajcaria nie ma nawet oficjalnej stolicy.
Ostatnio zmieniony przez rafal3006 dnia Śro 18:44, 13 Lis 2024, w całości zmieniany 1 raz
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
Irbisol
Dołączył: 06 Gru 2005
Posty: 15457
Przeczytał: 25 tematów
|
Wysłany: Śro 18:47, 13 Lis 2024 Temat postu: |
|
|
rafal3006 napisał: | Irbisol napisał: | Kubuś, ty nawet w zwykłych sprawach kłamiesz.
Rosyjski uważa za ojczysty język 30% mieszkańców UA - stan na rok 2001.
Teraz jest mniej, bo wielu brzydzi się tego języka, gdy im zbombardowano domy. |
Zależy jak definiujesz j. ojczysty.
Moja definicja:
j. ojczyty to ten, którego uzywamy na co dzień w domu |
Były osobne ankiety języka uważanego za ojczysty i języka używanego.
Więc znowu nie odróżniłeś dwóch osobnych kwestii.
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
rafal3006
Opiekun Forum Kubusia
Dołączył: 30 Kwi 2006
Posty: 35532
Przeczytał: 15 tematów
Skąd: z innego Wszechświata Płeć: Mężczyzna
|
Wysłany: Śro 18:53, 13 Lis 2024 Temat postu: |
|
|
Irbisol napisał: | rafal3006 napisał: | Irbisol napisał: | Kubuś, ty nawet w zwykłych sprawach kłamiesz.
Rosyjski uważa za ojczysty język 30% mieszkańców UA - stan na rok 2001.
Teraz jest mniej, bo wielu brzydzi się tego języka, gdy im zbombardowano domy. |
Zależy jak definiujesz j. ojczysty.
Moja definicja:
j. ojczyty to ten, którego uzywamy na co dzień w domu |
Były osobne ankiety języka uważanego za ojczysty i języka używanego.
Więc znowu nie odróżniłeś dwóch osobnych kwestii. |
Jeśli zaborcy przeprowadzali wśród polaków ankietę który język jest ich językiem ojczystym np. rosyjski czy polski to wielu pisało j. rosyjski z wielu powodów (czasmi czysto materialnych) - wielu po prostu picowało mówiąc pod nosem: masz psie to co chcesz usłyszeć, niech będzie rosyjski - oczywiście w domu używali tylko i wyłącznie j. polskiego.
Ostatnio zmieniony przez rafal3006 dnia Czw 6:53, 14 Lis 2024, w całości zmieniany 1 raz
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
medivo
Dołączył: 12 Maj 2008
Posty: 105
Przeczytał: 3 tematy
Skąd: Warmińsko-Mazurskie
|
Wysłany: Wto 18:44, 26 Lis 2024 Temat postu: |
|
|
AI daje odpowiedzi najbardziej prawdopodobne ze zbioru wyuczonych danych. Samo zadanie pytania może narzucić stronniczość np. pytanie w stylu naukowym da odpowiedź z danych tego środowiska. Najlepiej zadać pytanie dlaczego ktoś ma rację i samemu przeanalizować argumenty.
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
Michał Dyszyński
Bloger na Kretowisku
Dołączył: 04 Gru 2005
Posty: 33525
Przeczytał: 76 tematów
Skąd: Warszawa Płeć: Mężczyzna
|
Wysłany: Śro 1:12, 27 Lis 2024 Temat postu: |
|
|
rafal3006 napisał: | Banjankri napisał: |
AI jest bezstronne z założenia, bo twórcy nie chcą, aby było stronnicze, bo stronniczość identyfikuje, a póki co, nikt nie chce, aby AI miało powody do samookreślania się. |
Zadaj swojej AI banalne pytanie:
Kto odpowiada za aktualną wojnę na Ukrainie, biorąc pod uwagę tylko i wyłacznie mieszkańców Ukrainy, których jest mniej więcej po połowie tzn.
Dla około połowy Ukraińców językiem ojczystym jest j. ukraiński bo taki używają na co dzień w domu
Druga połowa to Ukraińcy dla których j. ojczystym jest j. rosyiski bo taki używają na co dzień w domu
Rozkład jest tu więc około 50/50% ... a co wygeneruje twoje AI?
Drugie pytanie dla AI:
Czy przy rokładzie 50/50% którakolwiek ze stron ma prawo wściekle zwalczać j. ojczysty drugiej strony?
Czy nie lepiej od razu było zastosować (bez wojny) rozwiązanie Cypryjskie gdzie są dwa języki urzędowe Grecki i Turecki ... mimo wojny o Cypr miedzy Grecją i Turcją.
Część ludzkości niczego ze swojej historii się nie uczy, niestety. |
Lepiej by było. Szwajcarzy mają kilka języków urzędowych.
Wg mnie Ukraińcy swoją ustawą o języku popełnili oczywiście ogromny błąd. Przez to:
- zniechęcili do państwowości ukraińskiej sporą część ludności (a ta z kolei szczerze poczuła się bardziej Rosjanami "skoro ukraiński rząd tak nam zrobił").
- dali Putinowi pretekst do wojny i do propagandy uzasadniającej tę wojnę w mediach rosyjskich (i częściowo w innych krajach)
- także nastawili negatywnie do siebie swoich partnerów na Zachodzie, gdzie wielojęzykowość w urzędach, gdy duży odsetek ludności stanowi język dodatkowy, jest standardem, a upieranie się przy jednym tylko języku rzeczywiście pachnie jakąś formą "nazizmu".
Czy to oznacza, że Ukraińcy "są winni" wojny?...
- Wg mnie NIE. Winnym wojny jest agresor. Gdyby Putin chciał po prostu osiągnąć taki cel, jak wsparcie ludności rosyjskojęzycznej, to przecież nic nie stało na przeszkodzie, aby wywierać naciski na rząd ukraiński, wpływać przez organizacje międzynarodowe, akcje medialne itp. Jest wiele metod w takim przypadku, a nawet jeśliby ostatecznie zagroził wojna, to byłoby to posunięcie ostateczne. Tymczasem Putin od dawna, jeszcze daleko przed wprowadzeniem ustawy o języku, chciał zająć Ukrainę, od dawna marzył o reaktywacji imperium podobnego do ZSRR. Znane są liczne jego wypowiedzi na ten temat.
Wracając zaś do tematu, to wydaje mi się, że co by AI nie stworzyła w obszarze rozsądzania sporów politycznych, to i tak to niczego nie zmieni, bo wszyscy zainteresowani dobrze wiedza, że AI miewa halucynacje, a poza tym jej "poglądy" są ściśle zależne od tego, na jakich danych była trenowana. I tu zawsze można wskazywać na problem, bo strona "poszkodowana" rozstrzygnięciem AI będzie się powoływała na nieprawidłowość doboru danych do treningu AI.
Jeśli już gdzieś AI mogłaby coś rozstrzygać, to chyba bardziej w zastosowaniach naukowych, gdzie WCZEŚNIEJ POWSTAŁ KONSENSUS w zakresie tego, że takie to takie dane do treningu, w połączeniu z takim to takim algorytmem zostaną uznane za (z definicji) "wystarczające" do rozstrzygania danego typu dylematów. Do tego oczywiście niezbędna byłaby UMOWA stron.
Ostatnio zmieniony przez Michał Dyszyński dnia Śro 1:15, 27 Lis 2024, w całości zmieniany 1 raz
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
lucek
Dołączył: 18 Lut 2011
Posty: 8825
Przeczytał: 27 tematów
|
Wysłany: Śro 9:22, 27 Lis 2024 Temat postu: |
|
|
medivo napisał: | AI daje odpowiedzi najbardziej prawdopodobne ze zbioru wyuczonych danych. Samo zadanie pytania może narzucić stronniczość np. pytanie w stylu naukowym da odpowiedź z danych tego środowiska. Najlepiej zadać pytanie dlaczego ktoś ma rację i samemu przeanalizować argumenty. |
rzeczywiście, żeby GPT bez kontekstu zrozumiała, że wola jednostki jako cel moralności jest obiektywną podstawą, z samej definicji woli i obiektywizmu - z logiki, wydaje się niemożliwe ... mi się nie udało. Inne próby sprawdzenia, czy logicznie coś przetwarza, choć twierdzi inaczej, odniosły ten sam skutek.
myślałem, z choć tak proste operacje jest w stanie wykonać .... niestety, jest mocno przereklamowana, podobnie jak ludzie, bardzo ich pod tym względem przypomina.
natomiast znalazła to czego szukałem .... czyli to istnieje - refleksja jest jednak ponura.
|
|
Powrót do góry |
|
|
Zobacz poprzedni temat :: Zobacz następny temat |
Autor |
Wiadomość |
rafal3006
Opiekun Forum Kubusia
Dołączył: 30 Kwi 2006
Posty: 35532
Przeczytał: 15 tematów
Skąd: z innego Wszechświata Płeć: Mężczyzna
|
Wysłany: Śro 11:31, 27 Lis 2024 Temat postu: |
|
|
Michał Dyszyński napisał: |
Szwajcarzy mają kilka języków urzędowych.
Wg mnie Ukraińcy swoją ustawą o języku popełnili oczywiście ogromny błąd. Przez to:
- zniechęcili do państwowości ukraińskiej sporą część ludności (a ta z kolei szczerze poczuła się bardziej Rosjanami "skoro ukraiński rząd tak nam zrobił").
- dali Putinowi pretekst do wojny i do propagandy uzasadniającej tę wojnę w mediach rosyjskich (i częściowo w innych krajach)
- także nastawili negatywnie do siebie swoich partnerów na Zachodzie, gdzie wielojęzykowość w urzędach, gdy duży odsetek ludności stanowi język dodatkowy, jest standardem, a upieranie się przy jednym tylko języku rzeczywiście pachnie jakąś formą "nazizmu". |
Ukraińcy ze swej historii niczego się nie nauczyli, przecież w swojej historii to już przerabiali:
[link widoczny dla zalogowanych]
Cytat: | Rzeź wołyńska[3][4] – ludobójstwo[5] dokonane przez nacjonalistów ukraińskich przy aktywnym[6], częstym wsparciu miejscowej ludności ukraińskiej[7][8][9] wobec mniejszości polskiej[10] byłego województwa wołyńskiego II RP (w czasie okupacji niemieckiej tego terytorium (sierpień 1941–luty 1944) administracyjnie w składzie struktury okupacyjnej III Rzeszy Komisariat Rzeszy Ukraina), podczas okupacji terenów II Rzeczypospolitej przez III Rzeszę, w okresie od lutego 1943 do lutego 1944.
Ofiarami mordów, których kulminacja nastąpiła w lecie 1943, byli Polacy, w dużo mniejszej skali Rosjanie, Ukraińcy, Żydzi, Ormianie, Czesi i przedstawiciele innych narodowości zamieszkujących Wołyń. Nie jest znana dokładna liczba ofiar, historycy szacują[11], że zginęło ok. 50–120 tys. Polaków[2] i w odwecie 2–3 tysiące Ukraińców[12][13][14]. |
Oczywistym zamiarem ich ustawy języjkowej była likwidacja na terenie Ukrainy innych języków niż j. ukraiński.
W czasach zbrodni Wołyńskiej było to wyrżnięcie wszystkich, którzy nie są Ukraińcami - dzisiej coś takiego jest niemożliwe, więc jakiś nazista wymyślił sobie że wymuszając wszedzie j. ukraiński zmuszą wszystkich mówiących innym językiem niż ukraiński do emigracji do swoich ojczyzn:
Rosjanie - (50% ludniści Ukrainy) won do Rosji
Węgrzy - zaledwie (270tys) won na Węgry (temu Orban powiedział NIE!)
Polacy - (?) won do Polski
W przypaku dwóch ostatnich ustawodawcy zadeklarowali nie natychmiastową likwidację języka (jak rosyjskiego) ale z opóźnieniem x-letnim - niczego to oczywiście w umysłach nazistów nie zmieni, oni muszą mieć Ukrainę wyczyszczoną z wszelkich innych języków.
Ostatnio zmieniony przez rafal3006 dnia Śro 11:38, 27 Lis 2024, w całości zmieniany 2 razy
|
|
Powrót do góry |
|
|
|
|
Nie możesz pisać nowych tematów Nie możesz odpowiadać w tematach Nie możesz zmieniać swoich postów Nie możesz usuwać swoich postów Nie możesz głosować w ankietach
|
fora.pl - załóż własne forum dyskusyjne za darmo
Powered by phpBB © 2001, 2005 phpBB Group
|