Od dekad pojawiają się książki i filmy obrazujące dystopijny świat w którym wszystko i wszyscy są kontrolowani przez despotyczne rządy. Kontrola sprawowana jest przez roboty, kamery, komputery śledzące i przewidujące każde ludzkie zachowanie aby wykryć potencjalnych sprawców lub przyszłych sprawców wykroczeń...
No cóż nie jest to już część Science Fiction.
Kilka dni temu Facebook ogłosił, iż zaczął wprowadzać system sztucznej inteligencji mający na celu „proaktywne wykrywanie” samobójczych myśli by zawczasu wysyłać jednostki medyczne do zagrożonych osób.
Jak czytamy w gazecie techcrunch.com„Nowa technologia sztucznej inteligencji na Facebooku będzie skanować i "proaktywnie wykrywać" wszystkie posty pod kątem wzorców samobójczych myśli, a także, w razie potrzeby, wysyłać grupy psychiatryczne do zagrożonego użytkownika lub jego przyjaciół, lub kontaktować się z lokalnymi służbami. Facebook może zmniejszyć czas oczekiwania na pomoc wykorzystując sztuczną inteligencję, by zgłaszać niepokojące posty moderatorom, zamiast czekać na raporty użytkowników.
Facebook już wcześniej testował sztuczną inteligencję by wykrywać niepokojące wpisy dając na teranie USA opcję raportowania samobójców wśród znajomych. Teraz za pomocą tej samej sztucznej inteligencji Facebook będzie przeszukiwał wszystkie typy treści na całym świecie, z wyjątkiem Unii Europejskiej, w której przepisy GDPR (General Data Protection Regulation) o ochronie danych osobowych zakazują profilowania użytkowników w oparciu o wrażliwe informacje.”
Facebook użyje także sztucznej inteligencji, aby nadać priorytet szczególnie ryzykownym lub pilnym raportom użytkowników, dzięki czemu moderatorzy będą mogli szybciej zająć się sprawą oraz wdroży narzędzia, które dadzą natychmiastowy dostęp do lokalnych zasobów językowych i kontaktu ze służbami. Przeznaczy również coraz więcej moderatorów do zapobiegania samobójstwom, szkoląc ich, aby zajmowali się sprawami 24 godziny na dobę, 7 dni w tygodniu, mając obecnie 80 lokalnych partnerów, takich jak Save.org, National Suicide Prevention Lifeline i Forefront, z których zasobów mogą korzystać kierując ich do zagrożonych użytkowników i ich sieci znajomych.”
Oznacza to, iż obecnie prywatna firma będzie nasyłała na użytkowników, na bazie swoich systemów komputerowych, służby psychiatryczne, policję lub jakiekolwiek prywatne czy państwowe instytucje. System jest jednak częścią znacznie szerszych działań mających na celu przyzwyczajanie do stałego monitoringu i automatycznego angażowania organów państwowych by wywierały presje na użytkowników (tzw. systemy autorepresji).
Patrz zakładka "urządzenia mobilne":
„Pomysł Facebooka by proaktywnie skanować zawartość postów ludzi może wywołać pewne dystopijne obawy o to, jak inaczej można zastosować tę technologię. Facebook nie udzielił odpowiedzi na pytanie, w jaki sposób uniknie skanowania treści w poszukiwaniu politycznego sprzeciwu lub drobnej przestępczości, a Rosen stwierdził tylko: "mamy tu okazję pomóc, więc zamierzamy w to zainwestować." Z pewnością istnieją ogromne korzystne aspekty technologii, ale jest to kolejna przestrzeń, w której nie mamy wielkiego wyboru, ale mamy nadzieję, że Facebook nie posunie się za daleko.
CEO firmy Facebook Mark Zuckerberg pochwalił aktualizację produktu pisząc, że "W przyszłości AI będzie w stanie zrozumieć więcej subtelnych niuansów języka i będzie w stanie identyfikować różne problemy poza samobójstwem, w tym by szybko wykrywać więcej rodzajów nękania i nienawiści." czytamy dalej w artykule.
Jednym słowem Zuckerberg twierdzi, iż system zajmie się wyszukiwaniem wszelkiego typu wykroczeń włącznie z kontrolowaniem języka w kontekście „mowy nienawiści” prawdopodobnie również automatyzując proces kontaktowania się z organami ścigania. Mamy już tego przedsmak w Niemczech gdzie ludzie są aresztowani za umieszczanie negatywnych komentarzy względem migrantów.
Ja bym dodał że to jest jeszcze kontrola języka. Ludzie będą się bali powiedzieć \"no chyba się powieszę\" \"mam doła\" bo zaraz ktoś na nich naśle kontrolę. Patrząc dalej to jak ktoś napisze coś o wszechobecnych obecnie sodomitach to też dostanie kontrolę , tym razem z policji.
misio
dodano: 2017-12-05 09:35:12
Zastanawiam się też nad tym czy Facebook zacznie sprzedawać informacje rządom o potencjalnych przestępstwach wykrytych przez AI.