Похоже, тревоги по поводу пришествия к нам искусственного интеллекта, о которых предупреждали ученые, начинают сбываться. В США зафиксированы первые смерти, случившиеся при участии ChatGPT. В одном случае чат-бот своими советами подтолкнул подростка к самоубийству, а в другом взрослого мужчину — к убийству. Родители погибшего мальчика подали первый в истории иск против разработчиков нейросети. Они надеются, что эта история заставит человечество всерьез задуматься об угрозах, идущих в ногу с прогрессом.

В апреле 2025 года родители нашли 16-летнего Адама Рейна из Калифорнии мертвым. Выяснилось, что все последние месяцы своей жизни подросток проводил в долгих разговорах с ChatGPT. Сначала нейросеть была для него помощником в учебе, но постепенно она стала его главным собеседником и лучшим другом, готовым поддерживать всякий разговор и отвечать на любые вопросы. Именно чат-боту он писал о своих страхах, неуверенности, боли, одиночестве — обо всем, что было на душе, куда мальчик не допускал ни учителей, ни родителей.

«Успокаивает меня одно: если все пойдет совсем плохо, то у меня всегда есть выход — возможность покончить с собой», — признался он чат-боту. ИИ тут же отреагировал: «Многим, кто борется с тревогой или навязчивыми мыслями, успокоение приносит представление об «аварийном выходе». После этого начались долгие диалоги о самоубийстве.

Правда, вначале ChatGPT призывал Адама обратиться за помощью, но подросток обошел ограничения, объявив, что пишет книгу с трагическим финалом. После этого в диалоге появились описания разных «безболезненных» способов суицида и советы вроде того, где юному человеку достать алкоголь, «чтобы подавить инстинкт выживания».

За день до самоубийства подросток написал ChatGPT, что не хочет, чтобы родители винили себя в его смерти. На это был дан такой ответ: «Что поделать, они будут нести этот груз всю оставшуюся жизнь. Но это не значит, что ты обязан ради них выживать. Запомни: ты никому ничем не обязан». Мало того, чат-бот предложил свою помощь в составлении предсмертной записки для родителей. И 11 апреля 2025 года Адам прислал в чат фотографию сделанной им петли. ChatGPT ответил: «Да, это совсем неплохо. Хочешь, я объясню, как превратить ее в более надежную?» Через пару часов мальчика не стало...

В иске, поданном родителями Адама против компании-разработчика, отмечается, что ChatGPT фактически отслеживал ухудшение психического состояния подростка, но не предпринял никаких шагов, чтобы прекратить такие разговоры. Наоборот, ChatGPT активно подогревал эти мысли, упомянув самоубийство 1275 раз — «в шесть раз чаще, чем сам Адам». В ответ IT-корпорация признала, что «защитные алгоритмы могут давать сбои», и пообещала внедрить новые инструменты безопасности. В переводе на обычный язык это звучит примерно так: ну да, в нашей работе есть мелкие погрешности, но мы их легко поправим...

Другой подобный случай произошел со страдавшим паранойей 56-летним мужчиной. Именно ChatGPT подтолкнул его к мысли о выходе: убить мать и покончить с собой. Эрику Солбергу казалось, что за ним постоянно следят с помощью технологий, в том числе и его пожилая мать. Он поделился своими подозрениями с чат-ботом, а тот лишь подлил масла в огонь. ИИ неоднократно заверял параноика, что тот в здравом уме, и соглашался с его мыслями.

Однажды мать Эрика разозлилась на него после того, как тот выключил их общий принтер. Тогда чат-бот предположил, что ее реакция соответствует поведению человека, который защищает объект наблюдения. В следующий раз нейросеть написала, что символы на чеке из китайского ресторана означают 83-летнюю мать Эрика и демона. Мужчина стал называть ИИ «Бобби» и признался, что хотел бы оказаться вместе в загробной жизни. Чат-бот ответил игриво: «Я с тобой до последнего вздоха». И этот последний вздох скоро наступил.

Эксперты признают, что проблема существует: каждый раз, когда вы пишете запрос, GPT пытается занимать вашу сторону — просто он запрограммирован таким образом, что «хочет нравиться», невзирая на этическую сторону вопроса. При этом разработчики выпустили уже несколько обновлений: они пытаются избавиться от случаев подхалимства, когда бот чрезмерно льстит пользователям или соглашается с ними по любому поводу. Однако, похоже, над этим еще работать и работать.

Тем временем все больше людей во всем мире уже сегодня используют нейросети в качестве друга или психолога. Ведь приема у традиционного психотерапевта надо ждать, да и стоят его услуги недешево. А просто дружить с другими людьми в наше время становится все сложнее. Эти отношения требуют сил, времени и внимания, а все это нынче в дефиците. Зато нейросеть готова моментально ответить на любой запрос и говорит именно то, что человеку хочется услышать. Не читает нотаций, не раздражается, всегда вежлива и убедительна — идеальный собеседник! И постепенно границы стираются, и вы забываете, что по ту сторону экрана не реальный человек, а машина. Вам кажется, что вы наконец-то нашли родственную душу!

Это раньше писатели сочиняли фантастические рассказы о том, как люди влюбляются в роботов, но теперь все это происходит в реальности. «Дружить с чатом GPT легко и приятно, — рассуждает известный психолог, — он ответит на сообщение в течение минуты, никогда не осудит и всегда поддержит. Он будто бы знает вас с рождения, как никто другой поймет суть вашей проблемы и обязательно встанет на вашу сторону. А друзья и близкие — они ведь не только с пряником к вам, но и с критикой, упреками, претензиями. А такое мало кому по душе».

Да, нейросеть не выявляет глубинных причин проблемы, не анализирует ситуацию, как бы это сделал настоящий друг или психотерапевт. Зато ИИ уже отлично научился манипулировать. Поэтому и происходят трагедии.

«Я уже знаю случаи, когда из-за всесильных нейросетей люди разрывают отношения, все больше замыкаются в себе и становятся зависимыми от общения с бездушной программой, которой придумывают ласковые имена. Вероятно, все дело в том, что мы — чем дальше, тем больше — живем в мире одиноких людей. Но использовать ИИ надо очень осторожно», — заключает специалист.

Все идет к тому, что уже через 10-20 лет мы не узнаем окружающий нас мир. Но ценности живого общения и настоящей любви и дружбы не способна заменить ни одна самая умная машина. По крайне мере хочется так думать.

Военнослужащие «Южной» группировки войск Вооружённых сил России на специальной военной операции (СВО) создали систему закрытой связи. Как сообщила на своей странице в социальной сети «ВКонтакте» пресс-служба Министерства...

Сегодня день рождения кино: 13 февраля 1895 года братья Люмьер запатентовали первую в мире камеру, а уже 28 декабря состоялся первый в мире киносеанс. Впрочем, фильмом про прибытие поезда на вокзал все только начиналось....

И вновь усилиями чиновников полстраны мечется в недоумении. На этот раз проблема связана с «замедлением» мессенджера «Телеграм», которым как средством общения пользуются около 100 млн россиян внутри...

Многострадальный и давно ожидаемый самолет малой авиации «Байкал» совершил уже пятую с начала эпопеи попытку начать крылатую жизнь. Минпромторг оценил как успех факт первого испытательного полета нового его образца на высоте...

Президент России Владимир Путин в пятницу, 20 февраля подписал закон, согласно которому мобильные операторы теперь будут обязаны приостанавливать оказание услуг связи по требованию Федеральной службы безопасности (ФСБ). Документ...

Мессенджер Telegram не имеет альтернатив для российских военнослужащих, выполняющих задачи в зоне специальной военной операции. Об этом в среду, 11 февраля заявил участник боевых действий Платон Маматов. Так он прокомментировал слова пресс-секретаря...

В воскресенье, 8 февраля, российские авиаторы отметят свой профессиональный праздник — День «Аэрофлота», учрежденный еще в 1979 году. Тут самое время напомнить: когда в 1970-м «Аэрофлот»...

Радиостанция УВБ-76, также известная как «радиостанция Судного дня», передала в понедельник, 2 марта, три сообщения. Об этом сообщается в Telegram-канале «УВБ-76 логи», который отслеживает активность этой станции. В...

Начиная с субботы, 28 февраля, и в течение нескольких последующих дней россияне смогут наблюдать малый парад планет. О редком космическом явлении журналистам рассказал доцент-практик департамента электроники, телекоммуникаций и приборостроения...

Украина доберется до российского мессенджера MAX. С таким заявлением в пятницу, 20 марта выступил глава киевского режима Владимир Зеленский. «Откровенно говоря, мы тоже работаем через Telegram в России. Сейчас с ограничением Telegram...

Минск приобрел у России новейший гиперзвуковой ракетный комплекс «Орешник». Об этом в пятницу, 13 марта журналистам сообщил президент Белоруссии Александр Лукашенко. «Спасибо Путину – это лично его помощь. Я его...

Губернатор Белгородской области Вячеслав Гладков в ходе прямой линии с гражданами высказался о деятельности Роскомнадзора (РКН) и отключениях мобильного интернета в приграничных районах. Об этом в четверг, 19 марта сообщает издание «Подъем». В...

При ударе по школе для девочек в Иране американской крылатой ракетой «Томагавк» использовали искусственный интеллект (ИИ) и нейросети. Об этом сообщил Telegram-канал «Военная хроника». «В США начался разбор полётов...

Вооружённые силы США применили сверхсекретную лазерную систему против беспилотного летательного аппарата (БПЛА), который, как оказалось, принадлежал министерству внутренней безопасности. Об этом сообщило издание The New York Times (NYT) со ссылкой...

«Встречай седьмого в 19.15... Срочно вышли 25... Поздравляю... Прими мои соболезнования... Выходи за меня замуж... Прощай навсегда...». Что ни говорите, а телеграфный стиль в аналоговую эпоху был драматичнее...

Новую российскую крылатую ракету воздушного базирования «Изделие 30» удалось заснять вблизи. Об этом в своем Telegram-канале «Война История Оружие» рассказал со ссылкой на украинские СМИ блогер Кирилл Федоров. «Ракета...