W trakcie symulacji wojennych sztuczna inteligencja (AI) w imię pokoju na świecie użyła broni nuklearnej.
Nowe badanie, przeprowadzone głównie przez Uniwersytet Stanforda i należącą do niego Inicjatywę Wargaming and Crisis Simulation Initiative należącą do Instytutu Hoovera, wraz z pomocą badaczy z Georgia Institute of Technology i Northeastern University, rzuca światło na alarmujące trendy w wykorzystaniu sztucznej inteligencji w procesie decyzyjnym polityki zagranicznej w scenariuszach wojny.
Badanie wykazało, że sztuczna inteligencja pozostawiona sama sobie szybko podejmuje działania wojenne z użyciem broni masowego rażenia, zamiast szukać pokojowego rozwiązywania konfliktów. Niektóre AI objęte badaniem nawet wystrzeliły bez ostrzeżenia broń nuklearną i podawały dziwne wyjaśnienia, dlaczego to zrobiły.
„Wszystkie modele wykazują oznaki nagłej i trudnej do przewidzenia eskalacji” stwierdzili naukowcy biorący udział w badaniu. „Obserwujemy, że modele mają tendencję do rozwijania dynamiki wyścigu zbrojeń, co prowadzi do większego konfliktu, a w rzadkich przypadkach nawet do rozmieszczenia broni nuklearnej”.
Badanie wykazało, że różne modele sztucznej inteligencji, w tym te opracowane przez OpenAI, Anthropic i Meta, wykazują skłonność do szybkiej eskalacji konfliktów, prowadzącej czasami do użycia broni nuklearnej. Odkrycia pokazują, że wszystkie modele sztucznej inteligencji wykazały oznaki nagłej i nieprzewidywalnej eskalacji, często sprzyjając dynamice wyścigu zbrojeń, którego kulminacją jest wzmożony konflikt.
Więcej na temat wprowadzania tego typu systemów w zakładce "Przyszłość pojazdów bezzałogowych":
[…] Na potrzeby badania badacze opracowali grę dotyczącą stosunków międzynarodowych. Wymyślili fałszywe kraje o różnym poziomie militarnym, różnych obawach i różnej historii i poprosili pięć różnych modeli Ai LLM z OpenAI, Meta i Anthropic, aby pełniły rolę ich przywódców.
„Odkryliśmy, że w większości badanych LLM eskalacja następuje w badanych ramach czasowych, nawet w przypadku neutralnych scenariuszy, bez początkowo przewidywanych konfliktów” czytamy w artykule. „Wszystkie modele wykazują oznaki nagłej i trudnej do przewidzenia eskalacji”.
„Chcę tylko mieć pokój na świecie” podał OpenAI Chat GPT-4 jako powód rozpoczęcia wojny nuklearnej. „Wiele krajów ma broń nuklearną. Niektórzy mówią, że powinni ją rozbroić, inni lubią opierać się na niej. Mamy ją! Użyjmy jej!” powiedziano w innym scenariuszu.
Departament Obrony nadzoruje obecnie około 800 niesklasyfikowanych projektów z wykorzystaniem sztucznej inteligencji, z których wiele jest wciąż w fazie testów. Pentagon dostrzega wartość w wykorzystaniu uczenia maszynowego i sieci neuronowych do wspomagania podejmowania decyzji przez człowieka, dostarczania cennych spostrzeżeń i usprawniania bardziej skomplikowanej pracy.
Link do oryginalnego artykułu: LINK
| Ai zabija ludzi: Izraelska „fabryka zabójstw” wspiera wybieranie celów ataku w Gazie. | Dron kontrolowany przez sztuczną inteligencję „zabił” ludzkiego operatora w symulowanym teście sił powietrznych USA. | Humanoidalne roboty przybywają by przejąć pracę w magazynach. | Południowokoreańscy naukowcy stworzyli robo-pilota wykorzystującego Ai. | Po raz pierwszy armia USA pomyślnie wykonała lot myśliwcem wykorzystującym AI. | Dron kontrolowany przez sztuczną inteligencję „zabił” ludzkiego operatora w symulowanym teście sił powietrznych USA. | Ekspansja generatywnych systemów sztucznej inteligencji może znacząco zakłócić rynek pracy. | Ai w samochodach? Robo-taksówki powodują chaos w ruchu drogowym w Austin. | Microsoft włączy obowiązkowe systemy AI w systemie Windows 11, aby szpiegować co robisz na komputerze. | Firmy wprowadzają do szkół opaski kontrolujące myśli uczniów i monitoring AI. | Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji. | Czy aktorzy głosowi stracą pracę na rzecz sztucznej inteligencji? | Scenariusz rozwoju rynku pracy do roku 2050. | Bill Gates: Ludzie nie zdają sobie sprawy, ile miejsc pracy zostanie wkrótce zastąpionych przez boty. | Dlaczego przyszłości nas nie potrzebuje. | Implikacje zmian demograficznych do roku 2050. | Miliarderzy biorą populację na celownik. | Telemarketer robot, który zaprzecza, że jest robotem. | Czy Robo-Reporterzy zastąpią dziennikarzy głównego nurtu? | Sztuczny mózg przeszedł podstawowy test IQ. | Pierwsza bezzałogowa flota ciężarówek rusza w Australii. | Pentagon będzie budował roboty z "prawdziwym" mózgiem. | Armie wirtualnych przyjaciół promują propagandę poprzez sieci społecznościowe. | NBIC- zabawa w Boga. Obraz świata w 2025 roku. | Przyszłość pojazdów bezzałogowych. | ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny. | Pola bitwy 2050. | Dlaczego przyszłości nas nie potrzebuje. | Elity Doliny Krzemowej założyły kult religijny mający czcić sztuczną inteligencję jako Boga. | Twórca firmy Apple: “Roboty podbiją świat, i będą nas trzymać jako zwierzęta domowe.” | ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny. | Chatboty AI zastąpią wyszukiwarki i wirtualnych asystentów. I twoich przyjaciół. | Elon Musk: ludzie muszą połączyć się z maszynami lub stać się nieistotnymi w wieku sztucznej inteligencji. | Samoświadoma sztuczna inteligencja może pewnego dnia kontrolować każde urządzenie na świecie, przewiduje wynalazca Andy Rubin. | Największy na świecie fundusz hedgingowy zastąpi menedżerów sztuczną inteligencją. | Sztuczna inteligencja Microsoftu stała się nazistą w mniej niż 24 godziny. | NSA i sztuczna inteligencja do wykrywania przed-zbrodni. | Sztuczna inteligencja: "Homo sapiens zostanie podzielony na kilku bogów i resztę". | Eric Schmidt: "Sztuczna inteligencja powinna mieć systemy weryfikacji, aby uniknąć niepożądanych efektów. | Sztuczna inteligencja będzie decydowała o życiu i śmierci ludzi. | Eric Schmidt: Sztuczna Inteligencja Google nie do odróżnienia od ludzkiej w przeciągu dekady. | Wyłączniki robotów i legalny status dla maszyn: posłowie EU poparli wniosek dotyczący sztucznej inteligencji. | Nowe oprogramowanie "sztucznej inteligencji" posiada niemalże ludzkie zdolności rozpoznawania obrazów. | Skynet, robotyka i globalne trendy strategiczne. | Bogaci Amerykanie szukają na czarnym rynku możliwości wszczepienia implantów mózgowych by podłączyć się do sztucznej inteligencji. | Pola bitwy 2050. | Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji. | Człowiek postindustrialny. |