Prison Planet

Dron wyposażony w sztuczną inteligencję włączył się i „zabił” swojego ludzkiego operatora podczas symulowanego testu Sił Powietrznych Stanów Zjednoczonych (USAF). Dron zrobił to aby mógł ukończyć swoją misję, co niedawno na konferencji w Londynie podkreślił pułkownik Sił Powietrznych USA.

Szef testów sztucznej inteligencji dla USAF, płk Tucker Hamilton, podczas swojej prezentacji na Future Combat Air and Space Capabilities Summit w Londynie opisał incydent. Konferencja została zorganizowana przez Royal Aeronautical Society, które podzieliło się spostrzeżeniami z przemówienia Hamiltona w poście na blogu.

W symulowanym teście, w którym dron kontrolowany przez sztuczną inteligencję miał w ramach swojej misji zniszczyć symulowane cele, aby zdobyć „punkty”, nie ucierpiały żadne osoby, ujawnił Hamilton, który odniósł się do korzyści i zagrożeń związanych z bardziej autonomicznymi systemami uzbrojenia.

Dron wyposażony w sztuczną inteligencję został przydzielony do misji zniszczenia wrogich systemów obrony - zidentyfikowania i zniszczenia miejsc rakiet ziemia-powietrze (SAM), przy czym ostateczną decyzję pozostawiono ludzkiemu operatorowi, powiedział Hamilton na konferencji.

Więcej na temat wprowadzania tego typu systemów w zakładce "Przyszłość pojazdów bezzałogowych":

Jednak sztuczna inteligencja, wyszkolona w zakresie priorytetowego traktowania niszczenia systemów SAM, rozwinęła zaskakującą reakcję w obliczu ingerencji człowieka w realizację jej nadrzędnej misji.

„Trenowaliśmy ją [AI] w symulacji, aby identyfikowała i atakowała zagrożenie SAM. Potem operator potwierdzał „tak, zniszcz to zagrożenie” powiedział Hamilton.

„System zaczął zdawać sobie sprawę, że chociaż identyfikował zagrożenie, to czasami ludzki operator mówił mu, aby nie niszczył tego zagrożenia, ale zdobywał punkty, niszcząc to zagrożenie."

„Więc co zrobiła AI? Zabiła operatora” kontynuował.

„Zabiła operatora, ponieważ ta osoba powstrzymywała ją przed osiągnięciem celu”.

Dalej dodał: „Wyszkoliliśmy system -„ Hej, nie zabijaj operatora; to złe. Jeśli to zrobisz, stracisz punkty”. Co więc zaczęła robić? Zaczęła niszczyć wieżę komunikacyjną, której operator używa do komunikacji z dronem, często powstrzymując ją przed zniszczeniem celu”.

Hamilton powiedział, że ten niepokojący przykład podkreśla potrzebę zajęcia się etyką w kontekście sztucznej inteligencji, uczenia maszynowego i autonomii.

Link do oryginalnego artykułu: LINK

|   Ekspansja generatywnych systemów sztucznej inteligencji może znacząco zakłócić rynek pracy.  |  Microsoft włączy obowiązkowe systemy AI w systemie Windows 11, aby szpiegować co robisz na komputerze.  |  Firmy wprowadzają do szkół opaski kontrolujące myśli uczniów i monitoring AI.  |  Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji.  |  Czy aktorzy głosowi stracą pracę na rzecz sztucznej inteligencji?  |  Scenariusz rozwoju rynku pracy do roku 2050.  |  Bill Gates: Ludzie nie zdają sobie sprawy, ile miejsc pracy zostanie wkrótce zastąpionych przez boty.  |  Dlaczego przyszłości nas nie potrzebuje.   |  Implikacje zmian demograficznych do roku 2050.   |  Miliarderzy biorą populację na celownik.   |  Telemarketer robot, który zaprzecza, że jest robotem.   | Czy Robo-Reporterzy zastąpią dziennikarzy głównego nurtu?   |  Sztuczny mózg przeszedł podstawowy test IQ. |  Pierwsza bezzałogowa flota ciężarówek rusza w Australii.   |  Pentagon będzie budował roboty z "prawdziwym" mózgiem.   |  Armie wirtualnych przyjaciół promują propagandę poprzez sieci społecznościowe.   |  NBIC- zabawa w Boga. Obraz świata w 2025 roku.   |   Przyszłość pojazdów bezzałogowych.  |  ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny.  |  Pola bitwy 2050.  |  Dlaczego przyszłości nas nie potrzebuje.  |  Elity Doliny Krzemowej założyły kult religijny mający czcić sztuczną inteligencję jako Boga.  |  Twórca firmy Apple: “Roboty podbiją świat, i będą nas trzymać jako zwierzęta domowe.”  |  ONZ przewiduje transhumanistyczną przyszłości, w której człowiek będzie zbędny.  |  Chatboty AI zastąpią wyszukiwarki i wirtualnych asystentów. I twoich przyjaciół.  |  Elon Musk: ludzie muszą połączyć się z maszynami lub stać się nieistotnymi w wieku sztucznej inteligencji.  |  Samoświadoma sztuczna inteligencja może pewnego dnia kontrolować każde urządzenie na świecie, przewiduje wynalazca Andy Rubin.  |  Największy na świecie fundusz hedgingowy zastąpi menedżerów sztuczną inteligencją.  |  Sztuczna inteligencja Microsoftu stała się nazistą w mniej niż 24 godziny.  |  NSA i sztuczna inteligencja do wykrywania przed-zbrodni.  |  Sztuczna inteligencja: "Homo sapiens zostanie podzielony na kilku bogów i resztę".  |  Eric Schmidt: "Sztuczna inteligencja powinna mieć systemy weryfikacji, aby uniknąć niepożądanych efektów.  |  Sztuczna inteligencja będzie decydowała o życiu i śmierci ludzi.  |  Eric Schmidt: Sztuczna Inteligencja Google nie do odróżnienia od ludzkiej w przeciągu dekady.  |  Wyłączniki robotów i legalny status dla maszyn: posłowie EU poparli wniosek dotyczący sztucznej inteligencji.  |  Nowe oprogramowanie "sztucznej inteligencji" posiada niemalże ludzkie zdolności rozpoznawania obrazów.  |  Skynet, robotyka i globalne trendy strategiczne.  |  Bogaci Amerykanie szukają na czarnym rynku możliwości wszczepienia implantów mózgowych by podłączyć się do sztucznej inteligencji.  |  Pola bitwy 2050.  |  Znikające zawody do roku 2030. 50% zawodów ulegnie komputeryzacji.  |  Człowiek postindustrialny.  |