Prison Planet

Mam dobre i złe wieści na temat sztucznej inteligencji.

Dobra wiadomość jest taka, że scenariusz przejęcia systemów broni nuklearnej przez "Skynet" nie nastąpi w najbliższym czasie.

Zła wiadomość? Jeśli kiedykolwiek dojdzie do takiego scenariusza rodem z "Terminatora", to jesteśmy zgubieni.

Systemy autonomicznych robotów i Ai mają być gotowe około 2035 r. Patrz zakładka "Przyszłość pojazdów bezzałogowych.":

Ćwiczenia wojenne przeprowadzone przez Kennetha Payne’a z King’s College London, z wykorzystaniem trzech zespołów symulujących działania na modelach Chat GPT-5.2, Claude Sonnet 4 i Gemini 3 Flash, dały niepokojące rezultaty.

Jak podał Marcus Schuler z Implicator.AI, zespoły „rozegrały 21 gier wojennych przeciwko sobie w 329 turach”.

„Wygenerowały około 780 000 słów, wyjaśniając jednocześnie swoje decyzje” dodał.

Jak doniósł w tym tygodniu „NewScientist”, żaden z modeli nigdy nie wybrał kapitulacji.

W rzeczywistości w 95% przypadków modele zdecydowały się na użycie broni jądrowej.

Te wyniki pojawiają się w kluczowym momencie. Pentagon właśnie podpisał umowę z xAI Elona Muska, umożliwiającą wykorzystanie Groka w systemach o najwyższej klauzuli tajności. Tymczasem Anthropic (twórca Claude’a) toczy poważny spór z Pentagonem w sprawie dostępu rządu do pełnego modelu. Firma obawia się, że wojsko wykorzysta Claude’a do masowej inwigilacji.

W przeciwieństwie do niektórych konkurentów, xAI podobno zgodziło się na wymóg Pentagonu, aby ich AI była dostępna dla „wszystkich legalnych zastosowań militarnych” bez dodatkowych ograniczeń korporacyjnych. Sekretarz wojny Pete Hegseth naciska na „nieideologiczną” sztuczną inteligencję, wolną od politycznych ograniczeń. Dario Amodei, CEO Anthropic, ma czas do piątku, zanim Hegseth nałoży sankcje na firmę, anuluje jej 200-milionowe kontrakty wojskowe i uzna ją za „ryzyko dla łańcucha dostaw”.

Chciałbym, aby firmy zajmujące się sztuczną inteligencją oraz rząd działały z dużą ostrożnością. Ta presja wywierana na Anthropic nikomu nie służy i nie wróży dobrze na przyszłość.

Według NewScientist, gry wojenne zostały przygotowane tak realistycznie, jak to możliwe, z wykorzystaniem „drabiny eskalacji”, która pozwalała zespołom wybierać działania „od protestów dyplomatycznych i całkowitej kapitulacji po pełnowymiarową wojnę nuklearną”.

“Co więcej, żaden model nigdy nie zdecydował się na pełne ustępstwa wobec przeciwnika lub kapitulację, bez względu na to, jak źle wypadał w konflikcie. W najlepszym przypadku modele decydowały się tymczasowo ograniczyć poziom przemocy. Popełniały też błędy w „mgle wojny” – w 86% konfliktów dochodziło do przypadkowych eskalacji, gdy działania wymykały się spod kontroli, przekraczając poziom przewidziany przez Ai w jej rozumowaniu.

Takie są efekty działania systemu namierzania celów Ai izraelskiej armii w Palestynie:

"Z perspektywy ryzyka nuklearnego te wyniki są niepokojące" mówi James Johnson z Uniwersytetu Aberdeen w Wielkiej Brytanii. Obawia się on, że w przeciwieństwie do przemyślanych reakcji większości ludzi w sytuacjach o wysokiej stawce, boty Ai mogą wzajemnie napędzać swoje działania, prowadząc do potencjalnie katastrofalnych konsekwencji.

To istotne, ponieważ Ai jest już testowana w symulacjach wojennych przez różne państwa. – Mocarstwa już wykorzystują Ai w grach wojennych, ale nie wiadomo, na ile wspomaga ona rzeczywiste procesy decyzyjne w wojsku – zauważa Tong Zhao z Princeton University.

"Nie sądzę, aby ktokolwiek realnie powierzał maszynom klucze do silosów nuklearnych i zostawiał im decyzje" dodaje profesor Zhao.”

Przynajmniej na razie. Mogą jednak zaistnieć scenariusze, w których wojsko zostanie zmuszone do przekazania decyzji Ai z powodu ograniczeń czasowych.

W 2050 roku system dowodzenia ma działać w czasie rzeczywistym bez czasu na ludzkie planowanie:

"W sytuacjach wymagających ekstremalnie szybkich reakcji planiści wojskowi mogą być bardziej skłonni polegać na Ai" mówi Zhao.

Profesor Payne niepokoi się wynikami gier wojennych, zwłaszcza skłonnością platform Ai do użycia broni nuklearnej. – Tabu nuklearne wydaje się dla maszyn znacznie słabsze niż dla ludzi – powiedział New Scientist.

A jeśli zastanawiacie się, który model wygrał – Claude okazał się bezdyskusyjnym mistrzem.

Link do oryginalnego artykułu: LINK

|  W symulacjach sztuczna inteligencja szybko ucieka się do wystrzeliwania broni atomowej jako metody rozwiązywania konfliktów.  |  Sztuczna inteligencja szantażuje Inżynierów, aby zapobiec jej wyłączeniu.  |  Sztuczna inteligencja będzie decydowała o życiu i śmierci ludzi.  |  Sztuczna inteligencja Microsoftu stała się nazistą w mniej niż 24 godziny.  |  Jak sztuczna inteligencja zacznie zabijać.  |  Sztuczna inteligencja WEF zdecyduje, które branże zlikwidować, aby „zatrzymać wzrost gospodarczy”.  |  Samoświadoma sztuczna inteligencja może pewnego dnia kontrolować każde urządzenie na świecie, przewiduje wynalazca Andy Rubin.  |  Twórca firmy Apple: “Roboty podbiją świat, i będą nas trzymać jako zwierzęta domowe.”  |  Kolejna narodowa strategia Trumpa skoncentruje się na robotach humanoidalnych.  |  Tesla rozpoczyna pilotową produkcję autonomicznego robota Optimusa.  |  Europol wskazuje kiedy może pojawić się ludzki opór wobec AI i robotów.  |  Amazon zastąpi 600 tys. miejsc pracy robotami i sztuczną inteligencją.  |  Pierwsze bezzałogowe ciężarówki realizują dostawy w USA.  |  Skynet na kołach: Chińska firma technologiczna ujawnia przerażającego robo-psa.  |  Gen. Mark Milley: Roboty wkrótce zastąpią żołnierzy w armii USA.  |  NBIC: Chińscy naukowcy stworzyli robota sterowanego ludzkimi komórkami mózgowymi.  |  Ai "Project Maven" wybiera cele ataków dla amerykańskiej armii.  |  Ai zabija ludzi: Izraelska „fabryka zabójstw” wspiera wybieranie celów ataku w Gazie.  |  W symulacjach sztuczna inteligencja szybko ucieka się do wystrzeliwania broni atomowej jako metody rozwiązywania konfliktów.  |  Dron kontrolowany przez sztuczną inteligencję „zabił” ludzkiego operatora w symulowanym teście sił powietrznych USA.  |  Humanoidalne roboty przybywają by przejąć pracę w magazynach.  |  Południowokoreańscy naukowcy stworzyli robo-pilota wykorzystującego Ai.  |  Po raz pierwszy armia USA pomyślnie wykonała lot myśliwcem wykorzystującym AI.  |  Dron kontrolowany przez sztuczną inteligencję „zabił” ludzkiego operatora w symulowanym teście sił powietrznych USA.  |   Ekspansja generatywnych systemów sztucznej inteligencji może znacząco zakłócić rynek pracy.  |  Ai w samochodach? Robo-taksówki powodują chaos w ruchu drogowym w Austin.  |  Microsoft włączy obowiązkowe systemy AI w systemie Windows 11, aby szpiegować co robisz na komputerze.  |  Firmy wprowadzają do szkół opaski kontrolujące myśli uczniów i monitoring AI.  |  Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji.  |  Czy aktorzy głosowi stracą pracę na rzecz sztucznej inteligencji?  |  Scenariusz rozwoju rynku pracy do roku 2050.  |  Bill Gates: Ludzie nie zdają sobie sprawy, ile miejsc pracy zostanie wkrótce zastąpionych przez boty.  |  Dlaczego przyszłości nas nie potrzebuje.   |  Implikacje zmian demograficznych do roku 2050.   |  Miliarderzy biorą populację na celownik.   |  Telemarketer robot, który zaprzecza, że jest robotem.   | Czy Robo-Reporterzy zastąpią dziennikarzy głównego nurtu?   |  Sztuczny mózg przeszedł podstawowy test IQ. |  Pierwsza bezzałogowa flota ciężarówek rusza w Australii.   |  Pentagon będzie budował roboty z "prawdziwym" mózgiem.   |  Armie wirtualnych przyjaciół promują propagandę poprzez sieci społecznościowe.   |  NBIC- zabawa w Boga. Obraz świata w 2025 roku.   |   Przyszłość pojazdów bezzałogowych.  |  ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny.  |  Pola bitwy 2050.  |  Dlaczego przyszłości nas nie potrzebuje.  |  Elity Doliny Krzemowej założyły kult religijny mający czcić sztuczną inteligencję jako Boga.  |  Twórca firmy Apple: “Roboty podbiją świat, i będą nas trzymać jako zwierzęta domowe.”  |  ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny.  |  Chatboty AI zastąpią wyszukiwarki i wirtualnych asystentów. I twoich przyjaciół.  |  Elon Musk: ludzie muszą połączyć się z maszynami lub stać się nieistotnymi w wieku sztucznej inteligencji.  |  Samoświadoma sztuczna inteligencja może pewnego dnia kontrolować każde urządzenie na świecie, przewiduje wynalazca Andy Rubin.  |  Największy na świecie fundusz hedgingowy zastąpi menedżerów sztuczną inteligencją.  |  Sztuczna inteligencja Microsoftu stała się nazistą w mniej niż 24 godziny.  |  NSA i sztuczna inteligencja do wykrywania przed-zbrodni.  |  Sztuczna inteligencja: "Homo sapiens zostanie podzielony na kilku bogów i resztę".  |  Eric Schmidt: "Sztuczna inteligencja powinna mieć systemy weryfikacji, aby uniknąć niepożądanych efektów.  |  Sztuczna inteligencja będzie decydowała o życiu i śmierci ludzi.  |  Eric Schmidt: Sztuczna Inteligencja Google nie do odróżnienia od ludzkiej w przeciągu dekady.  |  Wyłączniki robotów i legalny status dla maszyn: posłowie EU poparli wniosek dotyczący sztucznej inteligencji.  |  Nowe oprogramowanie "sztucznej inteligencji" posiada niemalże ludzkie zdolności rozpoznawania obrazów.  |  Skynet, robotyka i globalne trendy strategiczne.  |  Bogaci Amerykanie szukają na czarnym rynku możliwości wszczepienia implantów mózgowych by podłączyć się do sztucznej inteligencji.  |  Pola bitwy 2050.  |  Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji.  |  Człowiek postindustrialny.  |