Prison Planet

Entuzjaści sztucznej inteligencji AI przewidują Nowy Wspaniały Świat latających samochodów i leków na raka. Krytycy martwią się o przyszłości, w której ludzie będą zniewoleni przez roboty będące rasą panów. Naukowiec, weteran zajmujący się AI, Eric Horvitz i guru Zegara Zagłady (ang. Doomsday Clock) Lawrence Krauss, szukają kompromisowego rozwiązania zbierając grupę ekspertów na pustyni w Arizonie, aby omówić najgorsze scenariusze oraz to jak je zatrzymać.

Ich warsztaty finansowane przez współzałożyciela Tesla Inc. Elona Muska i współzałożyciela Skype Jaana Tallinna odbyły się w ostatni weekend w Arizona State University ASU. Warsztaty, oficjalnie nazwane "Envisioning and Addressing Adverse AI Outcomes,” były czymś w rodzaju gier wojennych AI angażujących około 40 naukowców, ekspertów bezpieczeństwa cybernetycznego i działaczy politycznych podzielonych na dwie grupy: atakujących- czerwona drużyna i obrońców - niebieska drużyna. Rozgrywali oni scenariusze gdzie AI stała się niezwykle niebezpieczną, począwszy od manipulacji giełdowych a na globalnej wojnie skończywszy.



Horvitz jest optymistą - to dobra rzecz, ponieważ AI jest dziełem jego życia. Niektórym z bardziej dystopijnych zwolenników projektu wydało się dwa lata temu - gdy tworzono plany dotyczące tego spotkania, że jego poglądy są zbyt optymistyczne, powiedział Krauss- fizyk teoretyczny, który kieruje programem organizującym warsztaty ASU Origins Project. Horvitz powiedział, że dla tych technologii, aby z powodzeniem ruszyły do przodu i zdobyły szerokie zaufanie publiczne, wszystkie kwestie muszą być w pełni wyartykułowane i rozważone.

"Istnieje ogromny potencjał by AI przekształciło tak wiele aspektów naszego społeczeństwa na tak wiele sposobów. W tym samym czasie, mamy błędy i potencjalne problemy, jak z każdą technologią," powiedział Horvitz, dyrektor zarządzający Microsoft's Research Lab w Redmond, Washington. “Aby maksymalnie zyskać na rozwoju musimy także przemyśleć możliwe efekty w sposób bardziej szczegółowy niż wcześniej i myśleć o tym, jak sobie z nimi radzić."

Uczestnicy otrzymali "pracę domową", aby przesłać najgorsze scenariusze. Mieli być realistami - w oparciu o aktualne technologie jak i te, jakie prawdopodobnie pojawiają się w ciągu 5 do 25 lat. Ci z uczestników którzy “wygrali” konkurs na koszmarny scenariusz prowadzili panel, w którym brało udział po około czterech ekspertów w dwóch zespołach. Omawiano formy ataków jak i to jak im zapobiec.

Okazuje się, że pod względem dystopijnych wizji badacze ci mogą się równać z pisarzami science-fiction takimi jak Arthur C. Clarke i Philip K. Dick. W wielu przypadkach bogata wyobraźnia nie była wymagana - scenariusze, w których technologie wykorzystywane, są do zmian w wyborach czy nowe cyberataki z wykorzystaniem Ai są już widoczne w świecie rzeczywistym, a przynajmniej jest to technicznie możliwe. Horvitz cytował badania, które pokazały jak zmienić sposób w jakim autonomiczny samochód widzi znaki drogowe, dzięki czemu błędnie odczytuje np znak "stop" jako "ustąp pierwszeństwa.''

Więcej nt autonomii, sztucznej inteligencji systemów robotycznych w zakładce "Przyszłość pojazdów bezzałogowych."


Możliwość inteligentnych, zautomatyzowanych ataków cybernetycznych jest tym co najbardziej martwi Johna Launchbury, który kieruje jednym z biur DARPA Defense Advanced Research Projects Agency, i Kathleen Fisher, przewodniczącą wydziału informatyki na Uniwersytecie Tufts, którzy prowadzili sesję na ten temat.

Co się stanie jeśli ktoś skonstruuje broń cybernatyczną zaprojektowaną tak aby się ukryła i unikała wszelkich prób rozbrojenia? Wyobraź sobie, że będzie ona w stanie rozprzestrzenić się poza zamierzony cel do szerszego Internetu. Pomyśl o Stuxnecie - wirusie komputerowym stworzonym do ataku na irański program nuklearny, który wydostał się do sieci będąc bardziej niewykrywalnym i autonomicznym.

"Mówimy o malware na sterydach, który korzysta z AI" powiedziała Fisher, która jest ekspertem w dziedzinie języków programowania. Fisher przedstawiła swój scenariusz w slajdzie opatrzonym napisem "Co może pójść nie tak?" co mogłoby także służyć jako motyw przewodni dla całego spotkania.

Jak odpowiedział na tego typu zagrożenie niebieski zespół? Nie jest dobrze, stwierdził Launchbury. Argumentowali oni, że zaawansowana sztuczna inteligencja wykorzystywana do ataku wymagałaby dużo mocy obliczeniowej i komunikacji więc byłaby łatwiejsza do wykrycia. Ale czerwona drużyna czuła, że byłoby to łatwe do ukrycia za nieszkodliwymi działaniami, powiedział Fisher. Na przykład atakujący mogą wykorzystywać niewinnych użytkowników dając im grać we wciągającą grę wideo by zatuszować swoje działania.

Aby uniknąć scenariusza manipulacji giełdowych wymyślonych przez profesora informatyki z Uniwersytetu Michigan, Michaela Wellmana, członkowie niebieskiego zespołu sugerują traktowanie atakujących jako malware, próbując rozpoznać ich za pomocą bazy danych znanych rodzajów ataków hakerskich. Wellman, który jest w temacie AI od ponad 30 lat i nazywa siebie old-timerem, powiedział, że takie podejście może być przydatne w finansach.

Oprócz rzeczywistych rozwiązań, organizatorzy mają nadzieję, że katastroficzne warsztaty rozpoczęły dialog o tym, co musi się zdarzyć, podnoszenie świadomości i łączenie pomysłów z różnych dziedzin. The Origins Project planuje udostępnienie materiałów z zamkniętych sesji publice i planuje kolejne warsztaty wokół konkretnych 1 lub 2 scenariuszy, dodał Krauss.

Audycja nt tego jaki jest obecnie poziom prywatności w sieci i nadzoru nad populacjami. Do tego typu systemów bowiem będzie zaadoptowana sztuczna inteligencja w pierwszej kolejności:


Launchbury z DARPA ma nadzieję, że obecność polityków będzie wspierać konkretne działania, takie jak umowy nt zasad zaangażowania w cyber wojny, zautomatyzowanych broni i robotycznych wojsk.

Krauss, przewodniczący rady sponsorów grupy prowadzącej Zegar Zagłady, symbolicznej miary tego jak blisko jesteśmy globalnej katastrofy powiedział, że część z tego co widział podczas warsztatów “uświadomiło" mu to czy zegar powinien przesunąć się jeszcze bliżej północy.

Nie zaopatruj się jeszcze w zapuszkowaną żywność i nie przenoś się do bunkra w puszczy, jeszcze na to nie czas.

"Niektóre rzeczy o których myślimy jako katastroficzne mogą po prostu skończyć się dobrze," powiedział.


Link do oryginalnego artykułu: LINK


|  Dlaczego przyszłości nas nie potrzebuje.  |  Twórca firmy Apple: “Roboty podbiją świat, i będą nas trzymać jako zwierzęta domowe.”  |  ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny.  |  Chatboty AI zastąpią wyszukiwarki i wirtualnych asystentów. I twoich przyjaciół.  |  Elon Musk: ludzie muszą połączyć się z maszynami lub stać się nieistotnymi w wieku sztucznej inteligencji.  |  Samoświadoma sztuczna inteligencja może pewnego dnia kontrolować każde urządzenie na świecie, przewiduje wynalazca Andy Rubin.  |  Największy na świecie fundusz hedgingowy zastąpi menedżerów sztuczną inteligencją.  |  Sztuczna inteligencja Microsoftu stała się nazistą w mniej niż 24 godziny.  |  NSA i sztuczna inteligencja do wykrywania przed-zbrodni.  |  Sztuczna inteligencja: "Homo sapiens zostanie podzielony na kilku bogów i resztę".  |  Eric Schmidt: "Sztuczna inteligencja powinna mieć systemy weryfikacji, aby uniknąć niepożądanych efektów.  |  Sztuczna inteligencja będzie decydowała o życiu i śmierci ludzi.  |  Eric Schmidt: Sztuczna Inteligencja Google nie do odróżnienia od ludzkiej w przeciągu dekady.  |  Wyłączniki robotów i legalny status dla maszyn: posłowie EU poparli wniosek dotyczący sztucznej inteligencji.  |  Nowe oprogramowanie "sztucznej inteligencji" posiada niemalże ludzkie zdolności rozpoznawania obrazów.  |  Skynet, robotyka i globalne trendy strategiczne.  |  Bogaci Amerykanie szukają na czarnym rynku możliwości wszczepienia implantów mózgowych by podłączyć się do sztucznej inteligencji.  |  Pola bitwy 2050.  |  Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji.  |  Człowiek postindustrialny.  |