AI może doprowadzić do wojen domowych. Japonia ostrzega

Czy AI stanowi zagrożenie? Na zdjęciu: robot witający odwiedzających targi Advances Factories w Barcelonie

“Porządek społeczny może się załamać” w erze sztucznej inteligencji. Dwa czołowe japońskie przedsiębiorstwa ostrzegają kraj, ale też świat, że rozwój AI może przynieść więcej szkód niż pożytku. Czy to uzasadnione obawy?

• Dwa czołowe japońskie przedsiębiorstwa ostrzegają, że niewłaściwie regulowana AI może doprowadzić do załamania się porządku społecznego i demokracji
• Firmy wydały manifest wzywający do tworzenia nowych praw ograniczających rozwój generatywnej sztucznej inteligencji
• Podkreślają, że bez odpowiednich regulacji generatywna AI może naruszać godność ludzką i być wykorzystywana do manipulacji uwagą użytkowników
• Japonia, wraz z innymi krajami takimi jak USA czy państwami Unii Europejskiej, pracuje nad regulacjami mającymi na celu kontrolę i bezpieczne wykorzystanie AI
• Więcej informacji o biznesie znajdziesz na stronie Businessinsider.com.pl

Nippon Telegraph and Telephone (NTT) to japońska korporacja telekomunikacyjna, która została założona jako państwowy monopolista telekomunikacyjny, a później przekształcona w prywatną firmę, w której rząd Japonii wciąż ma znaczny udział. Yomiuri Shimbun to z kolei jeden z największych i wpływowych dzienników w Japonii, cieszący się największym nakładem w kraju (poranny nakład wynosi ok. 6 mln egzemplarzy). Gazeta często odgrywała i odgrywa wyraźną rolę w kształtowaniu opinii publicznej i polityki w Japonii.

Oba podmioty podjęły współpracę i wydały manifest wzywający do wprowadzenia nowych praw ograniczających rozwój generatywnej sztucznej inteligencji (dalej: GenAI). Czyli tej, jaką znamy m.in. z popularnego narzędzia ChatGPT.

Korporacje przekonują, że bez odpowiednich ustaw i regulacji prawnych, głównie ograniczających GenAI, demokracja i porządek społeczny mogą się załamać.

Japońskie firmy widzą wady AI

Manifest wskazuje na rosnące obawy sojuszników Ameryki wobec rozwiązań AI, które firmy z całego świata, zwłaszcza z USA, dynamicznie rozwijają w ostatnich latach.

Manifest japońskich firm wymienia co prawda potencjalne korzyści płynące z GenAI w zakresie poprawy produktywności, ale ogólnie przyjmuje sceptyczne podejście do tej technologii. Stwierdza, że narzędzia AI już “zaczęły szkodzić godności ludzkiej”, ponieważ czasami są one projektowane tak, aby przyciągać uwagę użytkowników bez względu na moralność czy dokładność. W tym miejscu można wskazać np. influencerów AI, czyli wygenerowane przez technologię osoby, które są zarządzane przez człowieka, a w praktyce nie istnieją. Albo prezenterkę telewizyjną, która również jest tworem AI.

Jeśli AI nie zostanie ograniczone, “w najgorszym scenariuszu demokracja i porządek społeczny mogą się załamać, co spowoduje wojny” — stwierdza manifest.

Zdaniem firm Japonia powinna natychmiast podjąć środki, w tym ustawy chroniące wybory i bezpieczeństwo narodowe, przed nadużyciem GenAI.

Obecnie trwa już globalna inicjatywa mająca na celu regulację AI. Nowe prawo UE nakazuje producentom modeli AI przeprowadzanie ocen bezpieczeństwa i powiadamianie regulatorów o poważnych incydentach. Zakazuje też stosowania AI rozpoznającej emocje w szkołach i miejscach pracy. USA, Wielka Brytania i Japonia założyły też rządowe instytuty bezpieczeństwa AI, które mają pomóc w opracowywaniu wytycznych dotyczących rozwoju AI.

Troska o społeczeństwo

NTT i Yomiuri powiedziały, że ich manifest był motywowany troską o dyskurs publiczny. Obie firmy należą do najbardziej wpływowych w Japonii w zakresie polityki. Poinformowały, że ich kadra kierownicza już od zeszłego roku bada wpływ generatywnej AI w grupie prowadzonej przez badaczy z Uniwersytetu Keio.

Strony informacyjne i redakcyjne Yomiuri często podkreślają obawy dotyczące sztucznej inteligencji. W grudniowym artykule redakcyjnym, zauważając napływ nowych produktów AI pochodzących od amerykańskich firm technologicznych, stwierdzono: “Modele AI mogą uczyć ludzi, jak tworzyć broń lub rozpowszechniać pomysły dyskryminacyjne”. Cytowano również ryzyka związane z zaawansowanymi technikami deep fake do tworzenia fałszywych filmów, które wsadzają w usta polityków słowa, jakich nigdy nie wypowiedzieli.

NTT w marcu zaczęła oferować klientom duży model językowy “tsuzumi”, zbliżony do ChatGPT firmy OpenAI, ale zaprojektowany do mniejszego zużycia mocy obliczeniowej i lepszego działania w kontekście japońskojęzycznym. Rzecznik NTT powiedział, że technologia GenAI ma “szczególne ryzyka, jeśli jest używana złośliwie do manipulowania opinią publiczną”.

Obie firmy wydały też komunikaty dla mediów, w których czytamy: “W miarę jak generatywna sztuczna inteligencja oferuje interfejsy i doświadczenia przyjazne użytkownikowi, oczekuje się, że poprawi produktywność pracy. Jednak dokładność wyników generowanych przez AI nie może być obecnie w pełni gwarantowana, a nieograniczone wykorzystanie generatywnej AI mogłoby powodować różne problemy dla ludzkości i społeczeństwa. Ludzkość musi podjąć środki, aby zrównoważyć kontrolę i wykorzystanie generatywnej AI z perspektywy technologicznej i instytucjonalnej”.

Przedsiębiorstwa proponują podejść do rozwoju GenAI w następujący sposób:

Obawy nieco przesadzone

Obawy dotyczące GenAI, choć ważne, mogą być postrzegane jako przesadzone. Przede wszystkim AI oferuje ogromny potencjał do poprawy efektywności i innowacji w wielu sektorach — od medycyny po edukację, co może prowadzić do ogólnego wzrostu dobrobytu społecznego. Ponadto technologia ta jest coraz częściej projektowana ze wbudowanymi mechanizmami etycznymi, które mają na celu zapobieganie nadużyciom i promowanie odpowiedzialnego użytkowania.

Firmy technologiczne na całym świecie wprowadzają również własne zasady dotyczące etyki AI, co pokazuje, że sektor prywatny jest świadomy potencjalnych zagrożeń.

Obecnie wiele z obaw związanych z AI wynika z braku zrozumienia i edukacji na temat technologii w społeczeństwie, co można skorygować przez odpowiednie programy informacyjne i edukacyjne. Rządowe i międzynarodowe regulacje, które już są opracowywane, mają na celu stworzenie ram prawnych, które zabezpieczą przed niepożądanymi skutkami AI, zachowując jednocześnie przestrzeń na innowacje.

Historycznie rzecz biorąc, każda nowa technologia niosła ze sobą zarówno wyzwania, jak i korzyści, a społeczeństwa zazwyczaj adaptowały się do nich, znajdując optymalne wykorzystanie nowych narzędzi.

Autor: Grzegorz Kubera, dziennikarz Business Insider Polska