ŚFiNiA

Banjankri

Przez długie lata, głównym pytaniem w obszarze sztucznej inteligencji było: "czy to w ogóle możliwe?". Fascynaci bawili się w sieci neuronowe, ale niebardzo widać było zastosowanie i ich wpływ na rzeczywistość.
Teraz sytuacja zaczyna się szybko zmieniać i ludzie zaczynają się zastanawiać nad konsekwencjami różnych scenariuszy. Niestety nie jest różowo.

Głównym motorem napędowym ostatnich lat była automatyzacja, która mimo eliminacji pewnych stanowisk pracy, generowała inne. Pozwalało to zachować swego rodzaju równowagę w systemie, poprzez zmuszanie ludzi do rozwoju i dostosowywania się do nowych warunków. Można powiedizeć, że dobry fach już przestaje starczać na całe życie. Nie to jednak jest problemem. Problemem jest to, że ostatnie zmieny w obszarze AI mają szansę wyeliminować praktycznie każdy rodzaj pracy, czyli nie będzie na co się przebranżowić. Mówię tu o automatyzacji pracy przez inteligentne, kreatywne i uczące się maszyny.

Już dzisiaj, algorytm Deep Mind, z takim samym dostępem do gier jak my, potrafi nauczyć się jej do poziomu mistrzowskiego w 3 godziny.
I to jest ta część, którą Google już się chwalił rok temu. Co ma w swoich labolatoriach dzisiaj, nie wiadomo. Wiemy, że kupuje na rynku wszystkie wiodące przedsięwzięcia potrzebne do budowy inteligentnego cyborka, i wybitnych ludzi nad nią pracujących. Kupuje za miliardy dolarów, więc to nie przelewki. Pojawił się również strafch. Hawking, Gates i Musk wyrazili swoje obawy. I jest czego się bać.

Jeśli nawet nie uda się stworzyć bytu samoświadomego (to akurat jest najbardziej pozytywny scenariusz), to będziemy mieli błyskawiczny skok cywilizacyjny, nową erę. Po tym, jak boty przejmą większość wykonywanych zadań, wartość ludzkiej pracy, a co za tym idzie człowieka, drastycznie spadnie. Nie trzeba być geniuszem, żeby to zauważyć.

Jak powiedział Musk (CIO Tesla cars), może się okazać, że ludzkość to tylko Boot Loader dla AI. I to jest ten pozytywny scenariusz. AI będzie bardzo inteligentne, z naciskiem na bardzo. Niewyobrażalnie inteligentne. Różnica między ludźmi a AI, będzie taka jak między nami, a mrówkami. Już dzisiaj maszyny rozumieją język pisany i mówiony na poziomie ironii, czyli lepiej niż niektóre kultury. O samoświadomości człowiek rozpisywał się od tysięcy lat. Faszerując tą wiedzą algorytm typu Deep Mind, nie będziemy musieli wiedzieć czym ona jest i jak ją stworzyć. On sam ją stworzy i wcale nie musi to być dokładnie to samo, co my mamy. Znając nasze słabości i potencjalną inteligencję maszyny, efekt będzie o niebo lepszy. Brzmi jak science fiction... dla mnie też. Rzecz w tym, że prawie wszystko jest już możliwe. Może potrzebują trochę więcej mocy obliczeniowej. Pewnie dlatego mocno są zaangażowani w maszyny kwantowe.

""The honor of asking the first question is yours, Dwar Reyn."
"Thank you," said Dwar Reyn. "It shall be a question which no single cybernetics machine has been able to answer."
He turned to face the machine. "Is there a God?"
The mighty voice answered without hesitation, without the clicking of a single relay.
"Yes, now there is a God."

Piotr Rokubungi

Żadna AI nie będzie działać bez zapoczątkowania przez działanie człowieka- ponieważ najbardziej zaawansowanym algorytmom będzie brakowało WOLI, i to zawsze. Tak więc nic nie jest i nie będzie "winą" AI- cała odpowiedzialność spoczywa na ludziach! Często dążymy do tego co chcemy- tylko czy zdajemy sobie sprawę z konsekwencji? A nawet, jeśli zdajemy, to... No, właśnie.

Banjankri

Algorytm, który wygrywa w te gry, nie został zaprogramowany do wygrywania. Nikt mu nie powiedział, że ma grać aż się nauczy i wygra.
Jak Hassabis komentuje "Its, sort of, ruthlessly exploits the weakness in the system."
Wola jest tylko mechanizmem określającym jak daleko warto iść w danym kierunku. Algorytm nie ma potrzeby posiadania takiego ograniczenia, bo nie ograniczają go zasoby, a przynajmniej nie jest tego ograniczenia świadom. Czegokolwiek się podejmie, zrobi to najlepiej jak się da, poszukując maksimum kontroli.

Piotr Rokubungi

Więc do czego został zaprogramowany? Do osiągania maksimum kontroli? Ale nad czym? Nad wszystkimi danymi, które są mu dostępne? Co właściwie miałoby to oznaczać? Skąd "wie" co to są "słabości"? I skąd wie co znaczy "najlepiej"?
Natomiast wola jest czymś innym, niż napisałeś. Wola to "iskra boża", tajemnicza siła, która nie określa jak daleko się posuwać- określa CZY w ogóle się posuwać, czy żyć, czy istnieć; to coś, co "zakłóca", wzbudza Niebyt.

Kori

Wartość człowieka jeszcze bardziej spadnie, ale tylko dla innych ludzi, np. elity trzymającej władzę.

Filmik jest fajny, też zrobił na mnie duże wrażenie, ale akurat skupiłem się na pozytywnym aspekcie, że nie chcę mi się pracować, to dobrze, bo maszyny zrobią to za mnie. To znaczy, o ile wprowadzimy gospodarkę opartą na zasobach i prawie naturalnym (The Zeitgeist Movement; The Venus Project), bo inaczej nas wszystkich, szarych ludzi czeka wytrzebienie albo jaka praca w obozach, bo nie będziemy potrzebni panom władcom. Bo to, że nie będzie trzeba pracować, że to będzie zbędne, to jest sensowne i naturalne. Zdobywanie wykształcenia i szukanie pracy będą coraz bardziej zajęciami komicznymi i wymagającymi jeszcze większego zachodu, gdzie jak koń pod górę będziemy się wysilać dla śmiesznego zarobku i kwalifikacji. A później i tak może się w końcu okazać, że ta praca została już zautomatyzowana. Także te fakty cieszą mnie, i z zadowoleniem myślę o tym, jak ludzie będą tracić pracę, bo będą niepotrzebni, bo zastąpieni przez coś lepszego. Będzie jeszcze więcej bezrobotnych, lub mających tymczasową pracę na pół etatu. Śmieszy mnie sama myśl o tym, że ludzie nie będą mieli na chleb, bo stworzyli sobie pomocników, którzy za nich pracują. Myślę, że może będzie jeszcze tragicznie, ale może coś się w końcu ruszy, jeśli chodzi o globalny ustrój gospodarczy, a przynajmniej ten na Zachodzie.

Tutaj Joseph odpowiada w 3 punktach, o co chodzi w The Zeitgeist Movement: https://www.youtube.com/watch?v=6xGyKuyGhaE

Banjankri

Kori

Nie rozumiem. Algorytm twoim zdaniem będzie zarządzał ludźmi i surowcami? A kto ten algorytm zrobi? Nie ludzie?

Banjankri

Ludzie... już zrobili.

marekmosiewicz · Dołączył: 03 Lut 2006 Posty: 334 Przeczytał: 0 tematów

Wydaje się, że AI to same pozytywy. Pod warunkiem, że nie przejmie kontroli i że nie będzie wykorzystywana wyłącznie dla dobra garstki.

Jest fajny film "Automata" w której człowiek pomaga AI. Podoba mi się, jak robot w pewnym momencie mówi "I tak tego nie zrozumiesz" do człowieka. Druga scena to "On nie potrzebuje imienia" o nowo powstałym robocie.

Z drugiej strony, jak bedzie się zachowywało AI zwolnione z uwięzi. Czy nie przyjmie wrogich ludzkości paradygmatów. Czy ktos nie stworzy super istoty do zabijania (super inteligentna maszyna powinna odmówić wykonanania takiego zdania).

Piotr Rokubungi

Kurwa, jakie bzdury tu pierdolicie! :fuj:

Banjankri

Piotr Rokubungi

medivo

Na razie sztuczna inteligencja jest na bardzo niskim poziomie a dostępna moc obliczeniowa jest już spora jednak problem polega na tym że nie ma programistów potrafiących coś takiego stworzyć. Bawię się sieciami neuronowymi i są one czymś w rodzaju specyficznej pamięci, sieć może coś zapamiętywać ale nie potrafi odpowiednio manipulować zgromadzonymi danymi tak żeby tworzyło to jakąś spójną całość.

Piotr Rokubungi

Tu problemem nie jest sztuczna inteligencja, lecz sztuczna wola. I chyba bardzo dobrze, że sztucznej woli wytwarzać nie potrafimy [jeszcze?]...