ŚFiNiA

Semele

[link widoczny dla zalogowanych]

Zaloguj

en

Strona główna

Palestra

3/2019

Black mirror na poważnie, czyli raz jeszcze Harari

Palestra 3/2019

BLACK MIRROR NA POWAŻNIE, CZYLI RAZ JESZCZE HARARI

Kategoria

GAWĘDY ADWOKATA BIBLIOFILA

Udostępnij

Andrzej Tomaszek

adwokat

Kilka miesięcy temu gawędziłem o niezwykle popularnej pracy izraelskiego historyka Yavala Noaha Harariego pt. Od zwierząt do bogów (zob. Światowy bestseller o człowieku myślącym, „Palestra” 2018/9), wskazując na trafność spostrzeżeń autora i raczej optymistyczne przesłanie jego dzieła. Drugą książkę Profesora (Homo Deus. Krótka historia jutra) wolę pominąć, opowiem natomiast o trzeciej, niedawno wydanej dla polskiego czytelnika, pt. 21 lekcji na XXI wiek (21 Lessons for the 21th Century, Wydawnictwo Literackie 2018, tłum. Michał Romanek). Autor deklaruje, że koncentruje się na najbliższej przyszłości społeczeństw w perspektywie globalnej, próbuje wskazać wyzwania wynikające z wprowadzania nowych technologii, rozwoju sztucznej inteligencji, przełomowych wynalazków technicznych, których się spodziewa i nieuchronnego kryzysu ekologicznego. I próbuje nam podpowiedzieć, co powinniśmy robić i jakich umiejętności potrzebujemy, aby przetrwać. W rezultacie otrzymujemy wielowątkowy frapujący dreszczowiec niczym kolejne odcinki popularnej filmowej serii Black Mirror, tym bardziej skłaniający do myślenia, że skonstruowany nie dla rozrywki, lecz na poważnie i poparty żelazną logiką tudzież profesorską wiedzą.

Malkontentów uznających, że z uwagi na nasz mentalny prowincjonalizm i polityczną peryferyjność tematyka książki nas nie dotyczy, może przekona to, iż już teraz traci aktualność idea „zawodu na całe życie”, a prawnik świadczący zawodowo pomoc prawną może zostać rychło zastąpiony przez sztuczną inteligencję. Proces zastępowania ludzi przez roboty/ maszyny/algorytmy dotknie zdaniem autora wiele profesji, prowadząc do powstania nowej, bezużytecznej klasy (s. 52–53). „Wielu ludzi może podzielić los nie dziewiętnastowiecznych woźniców – którzy przerzucili się na prowadzenie taksówek – ale dziewiętnastowiecznych koni, które były coraz silniej wypychane z rynku pracy, aż wreszcie całkowicie z niego zniknęły” – pisze Harari (s. 53). Ratunkiem jest umiejętność zmiany zawodu i zdolność do nabywania nowych umiejętności przez całe życie. Jako że nie wszyscy temu sprostają, nieuchronne są wstrząsy społeczne i polityczne, czego odpowiedzialni rządzący nie mogą bagatelizować (s. 56–57).

Czy uda nam się przetrwać w systemie demokracji liberalnej, czy też potrzebne będzie wypracowanie innego modelu ustrojowego? „W XIX wieku rewolucja przemysłowa stworzyła nowe warunki i problemy, z którymi nie potrafił sobie poradzić żaden z istniejących modeli społecznych, ekonomicznych i politycznych – analizuje Harari. – Feudalizm, monarchizm i tradycyjne religie nie były przystosowane do zarządzania przemysłowymi metropoliami, milionami przesiedlonych robotników ani nieustannie zmieniającą się nowoczesną gospodarką. Dlatego ludzkość musiała wypracować całkowicie nowe modele. Powstały więc liberalne kraje demokratyczne, komunistyczne dyktatury i faszystowskie reżimy. Eksperymentowanie z tymi modelami zajęło ponad sto lat strasznych wojen i rewolucji, by można było oddzielić ziarno od plew i wprowadzić w życie najlepsze rozwiązania. Opisywana przez Dickensa praca dzieci w kopalniach, pierwsza wojna światowa i wielki głód na Ukrainie z lat 1932–1933 stanowiły zaledwie maleńką część czesnego, jakie ludzkość zapłaciła za tę naukę.

Wyzwanie, jakie stawiają nam w XXI wieku technologia informacyjna i biotechnologia, jest zapewne znacznie większe niż wyzwanie, którym w minionej epoce były maszyny parowe, koleje żelazne i elektryczność. Biorąc pod uwagę ogromną niszczycielską potęgę, jaką dysponuje nasza cywilizacja, nie możemy sobie pozwolić na kolejne nieudane modele, wojny światowe i krwawe rewolucje. Tym razem takie nieudane eksperymenty mogłyby się skończyć wojnami jądrowymi, potwornymi modyfikacjami genetycznymi i całkowitym rozpadem biosfery. Dlatego musimy spisać się lepiej niż wówczas, gdy stawialiśmy czoło rewolucji przemysłowej” (s. 57–58).

Wobec rosnącego oczekiwania wyborców na pomoc ze strony państwa i skłonności do koncentracji danych przez rządowe agendy nie powinniśmy raczej spodziewać się scenariusza dobrego dla demokracji. Jak trafnie zauważa Harari, „pod koniec XX wieku państwa demokratyczne zazwyczaj zostawiały w tyle dyktatury, ponieważ były lepsze w przetwarzaniu danych. Demokracja rozprasza władzę przetwarzania informacji i podejmowania decyzji na wielu ludzi i wiele instytucji, podczas gdy dyktatura skupia informacje i władzę w jednym miejscu. Biorąc pod uwagę, jaką techniką dysponowano w XX wieku, to ostatnie rozwiązanie było całkowicie nieskuteczne. Nikt nie miał możliwości wystarczająco szybkiego przetwarzania wszystkich tych informacji oraz dokonywania właściwych wyborów.

[link widoczny dla zalogowanych]

O tym, że zbieracko-łowieccy przodkowie pracowali krócej od nas, wiadomo od dawna, bardzo bym jednak chciał Harariego zapytać: co według niego robili w wolnym czasie? Rozmawiali z figowcami, karibu albo skałami, jak czytamy w „Homo deus”? Moim zdaniem te sugestie to za mało.

Liberalizm/nauka/sztuczna inteligencja

[link widoczny dla zalogowanych]

O tym, że zbieracko-łowieccy przodkowie pracowali krócej od nas, wiadomo od dawna, bardzo bym jednak chciał Harariego zapytać: co według niego robili w wolnym czasie? Rozmawiali z figowcami, karibu albo skałami, jak czytamy w „Homo deus”? Moim zdaniem te sugestie to za mało.

Semele

Polityka "koronkowa robota"
Paweł Walewski

Semele

Jeszcze inny futurysta.

Ulrich Beck

Semele

[link widoczny dla zalogowanych]

Strona Harariego. Tam próbuje sie bronić.

Semele

https://youtu.be/gG6WnMb9Fho
Harari Davos 2020

Semele

O uproszczeniach biologicznych Harariego.

[link widoczny dla zalogowanych]

Semele

Wywiad Michała Brańskiego z Hararim

https://youtu.be/sehFwh4oM5U

Semele

Rozmowa Natalie Portman z Hararim.

https://youtu.be/ledJBbRfH8g

Semele

[link widoczny dla zalogowanych]

Przy czym nie popieram oddania się w ręce algorytmów, by podejmowały za nas wszystkie decyzje. Rekomendowałbym natomiast obranie ścieżki gdzieś pośrodku: poznawanie siebie, zrozumienie, co naprawdę stoi za naszymi pragnieniami i wyborami. To jedyny sposób na uchronienie się przed staniem się marionetką ludzkiego dyktatora lub super inteligentnego komputera.

To rzecz jasna najstarsza z rad. Już w czasach starożytnych mędrcy i święci powtarzali ludziom, że powinni „poznać siebie”. Przy czym w czasach Sokratesa, Jezusa czy Buddy nie było na tym polu żadnej konkurencji i jeżeli zaniedbało się tę ścieżkę, pozostawało się nieodkrytą tajemnicą. Teraz jednak mamy inne czasy, konkurencja jest silna, i gdy czytasz ten wywiad, różne rządy i korporacje starają się cię zhakować. Jeżeli zaś poznają cię lepiej, niż ty sam, będą w stanie sprzedać ci wszystko, co tylko sobie wymyślą, czy będzie to kolejny produkt, czy polityk.

Wciąż, taka wizja Sztucznej Inteligencji jest jednak mniej przerażająca, niż to, co opisuje fantastyka naukowa.

Gdyby AI było tak złe, jak to rysują filmy science fiction, nikogo nie kusiłoby, by ją opracować.

Jeżeli jednak SF pokazujące AI walczące z ludźmi jest nierealne, to które wizje przyszłości z fantastyki naukowej wydają się prawdopodobne? Czytając fragmenty „21 lekcji…” poświęconej nieśmiertelności, przed oczami miałem „Modyfikowany węgiel” Richarda Morgana, gdzie światem rządzili nieśmiertelni, idealni miliarderzy.

Nie powinniśmy się obawiać ani buntu robotów, ani wojny ludzi z komputerami. Powinniśmy za to się bać podziału ludzkości – AI może pomóc wąskiej elicie posiąść ogromną władzę, z pomocą której reszta z nas zostanie zniewolona. Z drugiej strony, jeżeli sztuczna inteligencja będzie coraz lepsza w wyręczaniu nas z różnych zadań, może to wypchnąć miliardy ludzi z rynku pracy. W efekcie zasililiby oni szeregi „nieprzydatnej klasy”, nie posiadającej ani żadnej wartości ekonomicznej, ani siły politycznej. Jeszcze inny scenariusz jest taki, że elity mogą posiąść kontrolę nad wszystkimi robotami i komputerami i nawet wykorzystać bioinżynierię, by się ulepszać. W ten sposób otrzymalibyśmy społeczeństwo z największymi nierównościami w dziejach.

Semele

[link widoczny dla zalogowanych]

Harari stawia kontrowersyjną tezę, że z każdym kolejnym cywilizacyjnym osiągnięciem, prowadzimy żywot coraz mniej satysfakcjonujący. Kolejne osiągnięcia i ulepszenia, które miały uczynić życie lżejszym, wpędzały nas tylko w coraz większy kierat.

Semele · Wysłany: Czw 9:31, 02 Mar 2023 Temat postu:

[link widoczny dla zalogowanych]

O tym, że zbieracko-łowieccy przodkowie pracowali krócej od nas, wiadomo od dawna, bardzo bym jednak chciał Harariego zapytać: co według niego robili w wolnym czasie? Rozmawiali z figowcami, karibu albo skałami, jak czytamy w „Homo deus”? Moim zdaniem te sugestie to za mało.

Semele · Wysłany: Wto 15:25, 07 Mar 2023 Temat postu:

[link widoczny dla zalogowanych]

Bazując na pewnych tezach neurobiologicznych, naciąga je po to, by zdezawuować indywidualizm będący podstawą cywilizacji Zachodu, bowiem indywidualizm jest cechą kulturową rozwinętą przez chcrześcijaństwo. A forsowana przezeń teza o braku wolnej woli łatwo może stać się uzasadnieniem dla totalitaryzmu.

Takie trendy mają pewne podstawy w ludzkich zachowaniach, o których poniżej, ale trzeba mieć świadomość, że to efekt pewnych manipulacji i błędnych rozwiązań:

[link widoczny dla zalogowanych]

Semele · Wysłany: Wto 22:22, 07 Mar 2023 Temat postu:

[link widoczny dla zalogowanych]

Palestra

3/2019

Black mirror na poważnie, czyli raz jeszcze Harari

Palestra 3/2019

BLACK MIRROR NA POWAŻNIE, CZYLI RAZ JESZCZE HARARI

Kategoria

GAWĘDY ADWOKATA BIBLIOFILA

Udostępnij

Andrzej Tomaszek

adwokat

Kilka miesięcy temu gawędziłem o niezwykle popularnej pracy izraelskiego historyka Yavala Noaha Harariego pt. Od zwierząt do bogów (zob. Światowy bestseller o człowieku myślącym, „Palestra” 2018/9), wskazując na trafność spostrzeżeń autora i raczej optymistyczne przesłanie jego dzieła. Drugą książkę Profesora (Homo Deus. Krótka historia jutra) wolę pominąć, opowiem natomiast o trzeciej, niedawno wydanej dla polskiego czytelnika, pt. 21 lekcji na XXI wiek (21 Lessons for the 21th Century, Wydawnictwo Literackie 2018, tłum. Michał Romanek). Autor deklaruje, że koncentruje się na najbliższej przyszłości społeczeństw w perspektywie globalnej, próbuje wskazać wyzwania wynikające z wprowadzania nowych technologii, rozwoju sztucznej inteligencji, przełomowych wynalazków technicznych, których się spodziewa i nieuchronnego kryzysu ekologicznego. I próbuje nam podpowiedzieć, co powinniśmy robić i jakich umiejętności potrzebujemy, aby przetrwać. W rezultacie otrzymujemy wielowątkowy frapujący dreszczowiec niczym kolejne odcinki popularnej filmowej serii Black Mirror, tym bardziej skłaniający do myślenia, że skonstruowany nie dla rozrywki, lecz na poważnie i poparty żelazną logiką tudzież profesorską wiedzą.

Malkontentów uznających, że z uwagi na nasz mentalny prowincjonalizm i polityczną peryferyjność tematyka książki nas nie dotyczy, może przekona to, iż już teraz traci aktualność idea „zawodu na całe życie”, a prawnik świadczący zawodowo pomoc prawną może zostać rychło zastąpiony przez sztuczną inteligencję. Proces zastępowania ludzi przez roboty/ maszyny/algorytmy dotknie zdaniem autora wiele profesji, prowadząc do powstania nowej, bezużytecznej klasy (s. 52–53). „Wielu ludzi może podzielić los nie dziewiętnastowiecznych woźniców – którzy przerzucili się na prowadzenie taksówek – ale dziewiętnastowiecznych koni, które były coraz silniej wypychane z rynku pracy, aż wreszcie całkowicie z niego zniknęły” – pisze Harari (s. 53). Ratunkiem jest umiejętność zmiany zawodu i zdolność do nabywania nowych umiejętności przez całe życie. Jako że nie wszyscy temu sprostają, nieuchronne są wstrząsy społeczne i polityczne, czego odpowiedzialni rządzący nie mogą bagatelizować (s. 56–57).

Czy uda nam się przetrwać w systemie demokracji liberalnej, czy też potrzebne będzie wypracowanie innego modelu ustrojowego? „W XIX wieku rewolucja przemysłowa stworzyła nowe warunki i problemy, z którymi nie potrafił sobie poradzić żaden z istniejących modeli społecznych, ekonomicznych i politycznych – analizuje Harari. – Feudalizm, monarchizm i tradycyjne religie nie były przystosowane do zarządzania przemysłowymi metropoliami, milionami przesiedlonych robotników ani nieustannie zmieniającą się nowoczesną gospodarką. Dlatego ludzkość musiała wypracować całkowicie nowe modele. Powstały więc liberalne kraje demokratyczne, komunistyczne dyktatury i faszystowskie reżimy. Eksperymentowanie z tymi modelami zajęło ponad sto lat strasznych wojen i rewolucji, by można było oddzielić ziarno od plew i wprowadzić w życie najlepsze rozwiązania. Opisywana przez Dickensa praca dzieci w kopalniach, pierwsza wojna światowa i wielki głód na Ukrainie z lat 1932–1933 stanowiły zaledwie maleńką część czesnego, jakie ludzkość zapłaciła za tę naukę.

Wyzwanie, jakie stawiają nam w XXI wieku technologia informacyjna i biotechnologia, jest zapewne znacznie większe niż wyzwanie, którym w minionej epoce były maszyny parowe, koleje żelazne i elektryczność. Biorąc pod uwagę ogromną niszczycielską potęgę, jaką dysponuje nasza cywilizacja, nie możemy sobie pozwolić na kolejne nieudane modele, wojny światowe i krwawe rewolucje. Tym razem takie nieudane eksperymenty mogłyby się skończyć wojnami jądrowymi, potwornymi modyfikacjami genetycznymi i całkowitym rozpadem biosfery. Dlatego musimy spisać się lepiej niż wówczas, gdy stawialiśmy czoło rewolucji przemysłowej” (s. 57–58).

Wobec rosnącego oczekiwania wyborców na pomoc ze strony państwa i skłonności do koncentracji danych przez rządowe agendy nie powinniśmy raczej spodziewać się scenariusza dobrego dla demokracji. Jak trafnie zauważa Harari, „pod koniec XX wieku państwa demokratyczne zazwyczaj zostawiały w tyle dyktatury, ponieważ były lepsze w przetwarzaniu danych. Demokracja rozprasza władzę przetwarzania informacji i podejmowania decyzji na wielu ludzi i wiele instytucji, podczas gdy dyktatura skupia informacje i władzę w jednym miejscu. Biorąc pod uwagę, jaką techniką dysponowano w XX wieku, to ostatnie rozwiązanie było całkowicie nieskuteczne. Nikt nie miał możliwości wystarczająco szybkiego przetwarzania wszystkich tych informacji oraz dokonywania właściwych wyborów.

Semele · Wysłany: Pon 18:43, 27 Mar 2023 Temat postu:

[link widoczny dla zalogowanych]

Swój tekst zamieścił najpierw po hebrajsku na łamach izraelskiego Yenet, a następnie został on opublikowany po angielsku w Washington Post. Polecam; choć to lektura porażająca

Opinion | A disaster for democracy looms in Israel

Yuval Noah Harari is the author of “Sapiens,” “Homo Deus” and “Unstoppable Us” and a professor of history at the Hebrew University of Jerusalem. This op-ed was adapted from an article in Hebrew for Ynet in Israel.

Tytuł tych refleksji (Katastrofa dla demokracji w Izraelu) jest niestety uzasadniony przekonująco. Każdy może je przeczytać i konia z rzędem, kto potrafi unieważnić alarmistyczny ton uwag Harariego, który całkiem serio myśli o emigracji z Izraela, jak to zresztą zrobiło już tysiące Izraelczyków, nieumiejących znieść arogancji i bezmyślności większości rządzących ich państwem polityków z Bibi Netanjahu na czele.

Harari być może jest zbytnim optymistą.

Semele · Wysłany: Pią 2:34, 31 Mar 2023 Temat postu:

[link widoczny dla zalogowanych]

The Future of Life Institute (FLI) to amerykańska organizacja non-profit analizująca zagrożenia dla ludzkości, szczególnie ze strony nowoczesnych systemów sztucznej inteligencji. 29 marca opublikowała w internecie list otwarty, w którym wzywa do natychmiastowego wstrzymania prac nad kolejnymi, jeszcze bardziej zaawansowanymi programami SI niż udostępniony niedawno ChatGPT-4. Pod apelem podpisało się już ponad tysiąc osób ze świata nauki i biznesu, m.in. Elon Musk, Steve Wozniak (współzałożyciel Apple’a) i znany izraelski historyk Yuval Noah Harari.

W liście można m.in. przeczytać, że systemy SI o możliwościach konkurencyjnych wobec inteligencji człowieka mogą stanowić ogromne zagrożenie dla społeczeństw i całej ludzkości. Dlatego ich rozwój powinien podlegać bardzo ścisłemu nadzorowi. Niestety, tak się nie dzieje. A laboratoria SI rywalizują w tworzeniu coraz potężniejszych „cyfrowych umysłów”, których działania nie potrafią zrozumieć, przewidzieć i ściśle kontrolować nawet ich kreatorzy.

Semele

https://youtu.be/ta4U8G03q98

Hararii w rozmowie o Indiach.

Semele

Semele

[link widoczny dla zalogowanych]

Utrata znaczenia

Nikt nie wie, jak będzie wyglądał rynek pracy w 2050 r., ale powszechnie przyjmuje się, że uczenie maszynowe i robotyka zmienią niemal każdy fach. Ludzie mają dwa rodzaje umiejętności – fizyczne i poznawcze. W przeszłości maszyny rywalizowały z ludźmi w zdolnościach fizycznych, a w sferze usług pojawiały się nowe zajęcia wymagające zdolności poznawczych, analitycznych i komunikacyjnych. Obecnie jednak sztuczna inteligencja (SI) zaczyna w tych dziedzinach osiągać lepsze wyniki niż człowiek. Rewolucja w SI polega bowiem nie tylko na tym, że komputery są coraz szybsze, ale również na tym, że są coraz inteligentniejsze.

Im lepiej pojmujemy mechanizmy biochemiczne, które są podstawą naszych emocji, pragnień i wyborów, tym skuteczniejsze mogą być komputery w przewidywaniu naszych zachowań i zastępowaniu ludzi w roli kierowców, prawników, bankierów czy artystów. Za zanikanie miejsc pracy odpowiada bowiem nie sama technologia informacyjna, lecz połączenie jej z biotechnologią.

Semele

[link widoczny dla zalogowanych]

Nabycie przez sztuczną inteligencję umiejętności posługiwania się językiem, na którym jest zbudowana niemal cala ludzka kultura, potencjalnie oznacza koniec historii zdominowanej przez człowieka - pisze w brytyjskim tygodniku „The Economist” izraelski historyk i filozof Yuval Noah Harari.

„Lęki przed sztuczną inteligencją (AI) prześladują ludzkość od samego początku ery komputerów. Dotychczas obawy te koncentrowały się na maszynach wykorzystujących środki fizyczne do zabijania, zniewalania lub zastępowania ludzi. Ale w ciągu ostatnich kilku lat pojawiły się nowe narzędzia AI, które zagrażają przetrwaniu ludzkiej cywilizacji z nieoczekiwanego kierunku. AI zyskała pewne niezwykłe zdolności do manipulowania i generowania języka, czy to za pomocą słów, dźwięków czy obrazów. AI zhakowała w ten sposób system operacyjny naszej cywilizacji” - pisze Harari.

Zwraca uwagę, że język jest materiałem, z którego zbudowana jest niemal cała ludzka kultura, i stawia pytanie, co się stanie, gdy nie-ludzka inteligencja stanie się lepsza od przeciętnego człowieka w opowiadaniu historii, komponowaniu melodii, rysowaniu obrazów oraz pisaniu praw i świętych ksiąg.

Semele

https://youtu.be/3jjRq-CW1dc

Dyskusja o naturze

Semele

https://youtube.com/shorts/EfLTr4m8qWQ?si=lX04IyhrBKhiTv3U

O wojnie.

Bardzo ciekawe komentarze.

Semele

Harari o wojnie w Ukrainie.

[link widoczny dla zalogowanych]