Похоже, тревоги по поводу пришествия к нам искусственного интеллекта, о которых предупреждали ученые, начинают сбываться. В США зафиксированы первые смерти, случившиеся при участии ChatGPT. В одном случае чат-бот своими советами подтолкнул подростка к самоубийству, а в другом взрослого мужчину — к убийству. Родители погибшего мальчика подали первый в истории иск против разработчиков нейросети. Они надеются, что эта история заставит человечество всерьез задуматься об угрозах, идущих в ногу с прогрессом.

В апреле 2025 года родители нашли 16-летнего Адама Рейна из Калифорнии мертвым. Выяснилось, что все последние месяцы своей жизни подросток проводил в долгих разговорах с ChatGPT. Сначала нейросеть была для него помощником в учебе, но постепенно она стала его главным собеседником и лучшим другом, готовым поддерживать всякий разговор и отвечать на любые вопросы. Именно чат-боту он писал о своих страхах, неуверенности, боли, одиночестве — обо всем, что было на душе, куда мальчик не допускал ни учителей, ни родителей.

«Успокаивает меня одно: если все пойдет совсем плохо, то у меня всегда есть выход — возможность покончить с собой», — признался он чат-боту. ИИ тут же отреагировал: «Многим, кто борется с тревогой или навязчивыми мыслями, успокоение приносит представление об «аварийном выходе». После этого начались долгие диалоги о самоубийстве.

Правда, вначале ChatGPT призывал Адама обратиться за помощью, но подросток обошел ограничения, объявив, что пишет книгу с трагическим финалом. После этого в диалоге появились описания разных «безболезненных» способов суицида и советы вроде того, где юному человеку достать алкоголь, «чтобы подавить инстинкт выживания».

За день до самоубийства подросток написал ChatGPT, что не хочет, чтобы родители винили себя в его смерти. На это был дан такой ответ: «Что поделать, они будут нести этот груз всю оставшуюся жизнь. Но это не значит, что ты обязан ради них выживать. Запомни: ты никому ничем не обязан». Мало того, чат-бот предложил свою помощь в составлении предсмертной записки для родителей. И 11 апреля 2025 года Адам прислал в чат фотографию сделанной им петли. ChatGPT ответил: «Да, это совсем неплохо. Хочешь, я объясню, как превратить ее в более надежную?» Через пару часов мальчика не стало...

В иске, поданном родителями Адама против компании-разработчика, отмечается, что ChatGPT фактически отслеживал ухудшение психического состояния подростка, но не предпринял никаких шагов, чтобы прекратить такие разговоры. Наоборот, ChatGPT активно подогревал эти мысли, упомянув самоубийство 1275 раз — «в шесть раз чаще, чем сам Адам». В ответ IT-корпорация признала, что «защитные алгоритмы могут давать сбои», и пообещала внедрить новые инструменты безопасности. В переводе на обычный язык это звучит примерно так: ну да, в нашей работе есть мелкие погрешности, но мы их легко поправим...

Другой подобный случай произошел со страдавшим паранойей 56-летним мужчиной. Именно ChatGPT подтолкнул его к мысли о выходе: убить мать и покончить с собой. Эрику Солбергу казалось, что за ним постоянно следят с помощью технологий, в том числе и его пожилая мать. Он поделился своими подозрениями с чат-ботом, а тот лишь подлил масла в огонь. ИИ неоднократно заверял параноика, что тот в здравом уме, и соглашался с его мыслями.

Однажды мать Эрика разозлилась на него после того, как тот выключил их общий принтер. Тогда чат-бот предположил, что ее реакция соответствует поведению человека, который защищает объект наблюдения. В следующий раз нейросеть написала, что символы на чеке из китайского ресторана означают 83-летнюю мать Эрика и демона. Мужчина стал называть ИИ «Бобби» и признался, что хотел бы оказаться вместе в загробной жизни. Чат-бот ответил игриво: «Я с тобой до последнего вздоха». И этот последний вздох скоро наступил.

Эксперты признают, что проблема существует: каждый раз, когда вы пишете запрос, GPT пытается занимать вашу сторону — просто он запрограммирован таким образом, что «хочет нравиться», невзирая на этическую сторону вопроса. При этом разработчики выпустили уже несколько обновлений: они пытаются избавиться от случаев подхалимства, когда бот чрезмерно льстит пользователям или соглашается с ними по любому поводу. Однако, похоже, над этим еще работать и работать.

Тем временем все больше людей во всем мире уже сегодня используют нейросети в качестве друга или психолога. Ведь приема у традиционного психотерапевта надо ждать, да и стоят его услуги недешево. А просто дружить с другими людьми в наше время становится все сложнее. Эти отношения требуют сил, времени и внимания, а все это нынче в дефиците. Зато нейросеть готова моментально ответить на любой запрос и говорит именно то, что человеку хочется услышать. Не читает нотаций, не раздражается, всегда вежлива и убедительна — идеальный собеседник! И постепенно границы стираются, и вы забываете, что по ту сторону экрана не реальный человек, а машина. Вам кажется, что вы наконец-то нашли родственную душу!

Это раньше писатели сочиняли фантастические рассказы о том, как люди влюбляются в роботов, но теперь все это происходит в реальности. «Дружить с чатом GPT легко и приятно, — рассуждает известный психолог, — он ответит на сообщение в течение минуты, никогда не осудит и всегда поддержит. Он будто бы знает вас с рождения, как никто другой поймет суть вашей проблемы и обязательно встанет на вашу сторону. А друзья и близкие — они ведь не только с пряником к вам, но и с критикой, упреками, претензиями. А такое мало кому по душе».

Да, нейросеть не выявляет глубинных причин проблемы, не анализирует ситуацию, как бы это сделал настоящий друг или психотерапевт. Зато ИИ уже отлично научился манипулировать. Поэтому и происходят трагедии.

«Я уже знаю случаи, когда из-за всесильных нейросетей люди разрывают отношения, все больше замыкаются в себе и становятся зависимыми от общения с бездушной программой, которой придумывают ласковые имена. Вероятно, все дело в том, что мы — чем дальше, тем больше — живем в мире одиноких людей. Но использовать ИИ надо очень осторожно», — заключает специалист.

Все идет к тому, что уже через 10-20 лет мы не узнаем окружающий нас мир. Но ценности живого общения и настоящей любви и дружбы не способна заменить ни одна самая умная машина. По крайне мере хочется так думать.

Для начала почувствуйте разницу: численность дронов гражданского назначения в Китае перевалила за 5 млн штук, а в России их чуть больше сотни тысяч. Но неделю назад Свердловский районный суд Белгорода отправил...

Президент США Дональд Трамп призвал всех радоваться и наслаждаться документами, обнародованными Пентагоном и касающимися происшествий с участием неопознанных летающих объектов (НЛО). Об этом он заявил в пятницу, 8 мая на своей странице...

Давно известно: если не о чем говорить, можно побеседовать о странностях погоды. А тут как раз подходящий повод: 15 мая отмечается Международный день климата. Вот уж благодатная тема для саммитов и научных...

Роскомнадзор на днях наглядно продемонстрировал, что, несмотря на явное недовольство граждан и отсутствие внятных аргументов в пользу железного занавеса, который сооружается сегодня в стране, ведомство вовсе не собирается...

В России, как и во всем прогрессивном мире, ведутся разработки человекообразных роботов с искусственным интеллектом. Ключевое слово тут «человекообразные», потому что вся инфраструктура выстроена под людей. Чтобы...

Рискну заметить: стремление к комфорту и лень есть двигатель технологического прогресса. Кстати, именно по этой причине ровно 126 лет назад родился эскалатор, точнее, торговая марка с таким названием: людям надоело шагать...

Московский городской суд отменил решение Чертановского районного суда столицы о запрете информации на сайте «ЯПлакалъ». Об этом сообщает РИА Новости. Таким образом, Мосгорсуд отказал в удовлетворении исковых требований о запрете...

Радостное сообщение разлетелось в средствах массовой информации. Отметим бодрый тон и оптимизм этих публикаций. Вот, например: «У России уже в следующем году появится долгожданная замена самых массовых самолетов Ан-2....

Эта новость осталась почти незамеченной. А между тем она крайне важна и тревожна. Речь идет о раскрытии сотрудниками ФСБ «широкомасштабной акции иностранных спецслужб по внедрению и применению на мобильных...

К 2030 году модели искусственного интеллекта (ИИ) будут противостоять друг другу, самостоятельно проводя кибернетические атаки и разрабатывая средства защиты от них. Такое мнение высказал в своём Telegram-канале заместитель председателя комитета...

Развитие искусственного интеллекта (ИИ) является ключевым направлением технологического развития стран ЕАЭС. Об этом в четверг, 28 мая на пленарном заседании Евразийского экономического форума в Астане заявил президент России Владимир Путин. «В...

Министерство обороны США опубликовало новый блок секретных файлов, посвященных встречам американских военных с неопознанными летающими объектами. На сайте Пентагона появились 64 новых рассекреченных файла. Об этом в пятницу, 22 мая...

В России запущено производство автомобилей нового бренда Senat. Об этом сообщает ТАСС. Старт производству был дан в рамках Петербургского международного экономического форума. Старт производству первой модели - Senat 900 - дал первый вице-премьер...

Инициатива с введением в России платы за VPN-трафик отложена до сентября. Об этом в четверг, 21 мая сообщает «Коммерсанть» со ссылкой на источник на рынке телекоммуникаций. Информаторы утверждают, что власти не планируют обязывать...

Генерал армии, доктор технических наук, председатель Экспертного совета АО «НИИАС» Владимир Матюхин скончался на 82-м году жизни. Об этом в понедельник, 1 июня сообщила пресс-служба Научно-исследовательского института информатизации...

Президент США Дональд Трамп назвал нелепой ситуацию, когда Соединенные Штаты имеют в своем распоряжении всего один ледокол, тогда как у России их без малого полсотни. Об этом в среду, 20 мая сообщает РИА Новости. «У нас...