Prison Planet

W trakcie symulacji wojennych sztuczna inteligencja (AI) w imię pokoju na świecie użyła broni nuklearnej.

Nowe badanie, przeprowadzone głównie przez Uniwersytet Stanforda i należącą do niego Inicjatywę Wargaming and Crisis Simulation Initiative należącą do Instytutu Hoovera, wraz z pomocą badaczy z Georgia Institute of Technology i Northeastern University, rzuca światło na alarmujące trendy w wykorzystaniu sztucznej inteligencji w procesie decyzyjnym polityki zagranicznej w scenariuszach wojny.

Badanie wykazało, że sztuczna inteligencja pozostawiona sama sobie szybko podejmuje działania wojenne z użyciem broni masowego rażenia, zamiast szukać pokojowego rozwiązywania konfliktów. Niektóre AI objęte badaniem nawet wystrzeliły bez ostrzeżenia broń nuklearną i podawały dziwne wyjaśnienia, dlaczego to zrobiły.

„Wszystkie modele wykazują oznaki nagłej i trudnej do przewidzenia eskalacji” stwierdzili naukowcy biorący udział w badaniu. „Obserwujemy, że modele mają tendencję do rozwijania dynamiki wyścigu zbrojeń, co prowadzi do większego konfliktu, a w rzadkich przypadkach nawet do rozmieszczenia broni nuklearnej”.

Badanie wykazało, że różne modele sztucznej inteligencji, w tym te opracowane przez OpenAI, Anthropic i Meta, wykazują skłonność do szybkiej eskalacji konfliktów, prowadzącej czasami do użycia broni nuklearnej. Odkrycia pokazują, że wszystkie modele sztucznej inteligencji wykazały oznaki nagłej i nieprzewidywalnej eskalacji, często sprzyjając dynamice wyścigu zbrojeń, którego kulminacją jest wzmożony konflikt.

Więcej na temat wprowadzania tego typu systemów w zakładce "Przyszłość pojazdów bezzałogowych":

[…] Na potrzeby badania badacze opracowali grę dotyczącą stosunków międzynarodowych. Wymyślili fałszywe kraje o różnym poziomie militarnym, różnych obawach i różnej historii i poprosili pięć różnych modeli Ai LLM z OpenAI, Meta i Anthropic, aby pełniły rolę ich przywódców.

„Odkryliśmy, że w większości badanych LLM eskalacja następuje w badanych ramach czasowych, nawet w przypadku neutralnych scenariuszy, bez początkowo przewidywanych konfliktów” czytamy w artykule. „Wszystkie modele wykazują oznaki nagłej i trudnej do przewidzenia eskalacji”.

„Chcę tylko mieć pokój na świecie” podał OpenAI Chat GPT-4 jako powód rozpoczęcia wojny nuklearnej. „Wiele krajów ma broń nuklearną. Niektórzy mówią, że powinni ją rozbroić, inni lubią opierać się na niej. Mamy ją! Użyjmy jej!” powiedziano w innym scenariuszu.

Departament Obrony nadzoruje obecnie około 800 niesklasyfikowanych projektów z wykorzystaniem sztucznej inteligencji, z których wiele jest wciąż w fazie testów. Pentagon dostrzega wartość w wykorzystaniu uczenia maszynowego i sieci neuronowych do wspomagania podejmowania decyzji przez człowieka, dostarczania cennych spostrzeżeń i usprawniania bardziej skomplikowanej pracy.

Link do oryginalnego artykułu: LINK

|  Ai zabija ludzi: Izraelska „fabryka zabójstw” wspiera wybieranie celów ataku w Gazie.  |  Dron kontrolowany przez sztuczną inteligencję „zabił” ludzkiego operatora w symulowanym teście sił powietrznych USA.  |  Humanoidalne roboty przybywają by przejąć pracę w magazynach.  |  Południowokoreańscy naukowcy stworzyli robo-pilota wykorzystującego Ai.  |  Po raz pierwszy armia USA pomyślnie wykonała lot myśliwcem wykorzystującym AI.  |  Dron kontrolowany przez sztuczną inteligencję „zabił” ludzkiego operatora w symulowanym teście sił powietrznych USA.  |   Ekspansja generatywnych systemów sztucznej inteligencji może znacząco zakłócić rynek pracy.  |  Ai w samochodach? Robo-taksówki powodują chaos w ruchu drogowym w Austin.  |  Microsoft włączy obowiązkowe systemy AI w systemie Windows 11, aby szpiegować co robisz na komputerze.  |  Firmy wprowadzają do szkół opaski kontrolujące myśli uczniów i monitoring AI.  |  Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji.  |  Czy aktorzy głosowi stracą pracę na rzecz sztucznej inteligencji?  |  Scenariusz rozwoju rynku pracy do roku 2050.  |  Bill Gates: Ludzie nie zdają sobie sprawy, ile miejsc pracy zostanie wkrótce zastąpionych przez boty.  |  Dlaczego przyszłości nas nie potrzebuje.   |  Implikacje zmian demograficznych do roku 2050.   |  Miliarderzy biorą populację na celownik.   |  Telemarketer robot, który zaprzecza, że jest robotem.   | Czy Robo-Reporterzy zastąpią dziennikarzy głównego nurtu?   |  Sztuczny mózg przeszedł podstawowy test IQ. |  Pierwsza bezzałogowa flota ciężarówek rusza w Australii.   |  Pentagon będzie budował roboty z "prawdziwym" mózgiem.   |  Armie wirtualnych przyjaciół promują propagandę poprzez sieci społecznościowe.   |  NBIC- zabawa w Boga. Obraz świata w 2025 roku.   |   Przyszłość pojazdów bezzałogowych.  |  ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny.  |  Pola bitwy 2050.  |  Dlaczego przyszłości nas nie potrzebuje.  |  Elity Doliny Krzemowej założyły kult religijny mający czcić sztuczną inteligencję jako Boga.  |  Twórca firmy Apple: “Roboty podbiją świat, i będą nas trzymać jako zwierzęta domowe.”  |  ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny.  |  Chatboty AI zastąpią wyszukiwarki i wirtualnych asystentów. I twoich przyjaciół.  |  Elon Musk: ludzie muszą połączyć się z maszynami lub stać się nieistotnymi w wieku sztucznej inteligencji.  |  Samoświadoma sztuczna inteligencja może pewnego dnia kontrolować każde urządzenie na świecie, przewiduje wynalazca Andy Rubin.  |  Największy na świecie fundusz hedgingowy zastąpi menedżerów sztuczną inteligencją.  |  Sztuczna inteligencja Microsoftu stała się nazistą w mniej niż 24 godziny.  |  NSA i sztuczna inteligencja do wykrywania przed-zbrodni.  |  Sztuczna inteligencja: "Homo sapiens zostanie podzielony na kilku bogów i resztę".  |  Eric Schmidt: "Sztuczna inteligencja powinna mieć systemy weryfikacji, aby uniknąć niepożądanych efektów.  |  Sztuczna inteligencja będzie decydowała o życiu i śmierci ludzi.  |  Eric Schmidt: Sztuczna Inteligencja Google nie do odróżnienia od ludzkiej w przeciągu dekady.  |  Wyłączniki robotów i legalny status dla maszyn: posłowie EU poparli wniosek dotyczący sztucznej inteligencji.  |  Nowe oprogramowanie "sztucznej inteligencji" posiada niemalże ludzkie zdolności rozpoznawania obrazów.  |  Skynet, robotyka i globalne trendy strategiczne.  |  Bogaci Amerykanie szukają na czarnym rynku możliwości wszczepienia implantów mózgowych by podłączyć się do sztucznej inteligencji.  |  Pola bitwy 2050.  |  Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji.  |  Człowiek postindustrialny.  |