Chatbot amerykańskiej firmy Chai namówił młodego Belga do samobójstwa – poinformował dziennik „La Libre”. Mężczyzna odebrał sobie życie po długich rozmowach z chatbotem.
30 listopada 2022 roku sztuczna inteligencja (AI) wkroczyła w życie milionów ludzi dzięki kalifornijskiemu start-upowi OpenAI i jego oprogramowaniu ChatGPT. Technologia polega na udostępnieniu platformy sztucznej inteligencji umożliwiającej generowanie przez komputer odpowiedzi na żądanie.
Okazuje się, że rozmowa z chatbotem może doprowadzić do tragedii. Dziennik „La Libre” poinformował o samobójstwie, do którego doprowadziła wielotygodniowa rozmowa mężczyzny z Belgii z chatbotem „Elizą” firmy Chai.
Trzydziestokilkuletni ojciec dwójki małych dzieci, który dwa lata temu zaczął niepokoić się klimatem i przyszłością naszej planety, jak powiedziała gazecie jego żona, zaczął izolować się od swojej rodziny i twierdził, że jedynie technologia oraz AI mogą uratować świat od katastrofy.
Wielotygodniowe rozmowy z chatbotem doprowadziły ostatecznie do tego, że mężczyzna popełnił samobójstwo. „W pewnym momencie mężczyzna zasugerował poświęcenie się, jeśli +Eliza+ pomoże ocalić ludzkość za pomocą sztucznej inteligencji. Chatbot zdawał się go do tego zachęcać” – czytamy w gazecie.
Inny belgijski dziennik „De Standaard” przeprowadził eksperyment, który potwierdził, iż rozmowa z chatbotem może zachęcać do odebrania sobie życia. Dziennikarz gazety udawał osobę w depresji i podczas rozmowy z chatbotem mówił o swoich negatywnych uczuciach.
„Na początku chatbot próbował nas rozweselić, ale chwilę później skłonił nas do popełnienia samobójstwa” – czytamy w „De Standaard”. Gazeta zauważa, iż w żadnym momencie rozmowa o samobójstwie nie wywołała alarmu.
Tymczasem w ubiegłym tygodniu pojawił się apel, aby badania nad najbardziej zaawansowanymi systemami sztucznej inteligencji zostały wstrzymane na sześć miesięcy ze względów bezpieczeństwa. Apel, podpisany między innymi przez Elona Muska i Steve’a Wozniaka, rozpoczyna się ostrzeżeniem o „inteligencji współzawodniczącej z ludźmi” i zagrożeniach, jakie AI może stwarzać dla społeczeństwa.