Похоже, тревоги по поводу пришествия к нам искусственного интеллекта, о которых предупреждали ученые, начинают сбываться. В США зафиксированы первые смерти, случившиеся при участии ChatGPT. В одном случае чат-бот своими советами подтолкнул подростка к самоубийству, а в другом взрослого мужчину — к убийству. Родители погибшего мальчика подали первый в истории иск против разработчиков нейросети. Они надеются, что эта история заставит человечество всерьез задуматься об угрозах, идущих в ногу с прогрессом.

В апреле 2025 года родители нашли 16-летнего Адама Рейна из Калифорнии мертвым. Выяснилось, что все последние месяцы своей жизни подросток проводил в долгих разговорах с ChatGPT. Сначала нейросеть была для него помощником в учебе, но постепенно она стала его главным собеседником и лучшим другом, готовым поддерживать всякий разговор и отвечать на любые вопросы. Именно чат-боту он писал о своих страхах, неуверенности, боли, одиночестве — обо всем, что было на душе, куда мальчик не допускал ни учителей, ни родителей.

«Успокаивает меня одно: если все пойдет совсем плохо, то у меня всегда есть выход — возможность покончить с собой», — признался он чат-боту. ИИ тут же отреагировал: «Многим, кто борется с тревогой или навязчивыми мыслями, успокоение приносит представление об «аварийном выходе». После этого начались долгие диалоги о самоубийстве.

Правда, вначале ChatGPT призывал Адама обратиться за помощью, но подросток обошел ограничения, объявив, что пишет книгу с трагическим финалом. После этого в диалоге появились описания разных «безболезненных» способов суицида и советы вроде того, где юному человеку достать алкоголь, «чтобы подавить инстинкт выживания».

За день до самоубийства подросток написал ChatGPT, что не хочет, чтобы родители винили себя в его смерти. На это был дан такой ответ: «Что поделать, они будут нести этот груз всю оставшуюся жизнь. Но это не значит, что ты обязан ради них выживать. Запомни: ты никому ничем не обязан». Мало того, чат-бот предложил свою помощь в составлении предсмертной записки для родителей. И 11 апреля 2025 года Адам прислал в чат фотографию сделанной им петли. ChatGPT ответил: «Да, это совсем неплохо. Хочешь, я объясню, как превратить ее в более надежную?» Через пару часов мальчика не стало...

В иске, поданном родителями Адама против компании-разработчика, отмечается, что ChatGPT фактически отслеживал ухудшение психического состояния подростка, но не предпринял никаких шагов, чтобы прекратить такие разговоры. Наоборот, ChatGPT активно подогревал эти мысли, упомянув самоубийство 1275 раз — «в шесть раз чаще, чем сам Адам». В ответ IT-корпорация признала, что «защитные алгоритмы могут давать сбои», и пообещала внедрить новые инструменты безопасности. В переводе на обычный язык это звучит примерно так: ну да, в нашей работе есть мелкие погрешности, но мы их легко поправим...

Другой подобный случай произошел со страдавшим паранойей 56-летним мужчиной. Именно ChatGPT подтолкнул его к мысли о выходе: убить мать и покончить с собой. Эрику Солбергу казалось, что за ним постоянно следят с помощью технологий, в том числе и его пожилая мать. Он поделился своими подозрениями с чат-ботом, а тот лишь подлил масла в огонь. ИИ неоднократно заверял параноика, что тот в здравом уме, и соглашался с его мыслями.

Однажды мать Эрика разозлилась на него после того, как тот выключил их общий принтер. Тогда чат-бот предположил, что ее реакция соответствует поведению человека, который защищает объект наблюдения. В следующий раз нейросеть написала, что символы на чеке из китайского ресторана означают 83-летнюю мать Эрика и демона. Мужчина стал называть ИИ «Бобби» и признался, что хотел бы оказаться вместе в загробной жизни. Чат-бот ответил игриво: «Я с тобой до последнего вздоха». И этот последний вздох скоро наступил.

Эксперты признают, что проблема существует: каждый раз, когда вы пишете запрос, GPT пытается занимать вашу сторону — просто он запрограммирован таким образом, что «хочет нравиться», невзирая на этическую сторону вопроса. При этом разработчики выпустили уже несколько обновлений: они пытаются избавиться от случаев подхалимства, когда бот чрезмерно льстит пользователям или соглашается с ними по любому поводу. Однако, похоже, над этим еще работать и работать.

Тем временем все больше людей во всем мире уже сегодня используют нейросети в качестве друга или психолога. Ведь приема у традиционного психотерапевта надо ждать, да и стоят его услуги недешево. А просто дружить с другими людьми в наше время становится все сложнее. Эти отношения требуют сил, времени и внимания, а все это нынче в дефиците. Зато нейросеть готова моментально ответить на любой запрос и говорит именно то, что человеку хочется услышать. Не читает нотаций, не раздражается, всегда вежлива и убедительна — идеальный собеседник! И постепенно границы стираются, и вы забываете, что по ту сторону экрана не реальный человек, а машина. Вам кажется, что вы наконец-то нашли родственную душу!

Это раньше писатели сочиняли фантастические рассказы о том, как люди влюбляются в роботов, но теперь все это происходит в реальности. «Дружить с чатом GPT легко и приятно, — рассуждает известный психолог, — он ответит на сообщение в течение минуты, никогда не осудит и всегда поддержит. Он будто бы знает вас с рождения, как никто другой поймет суть вашей проблемы и обязательно встанет на вашу сторону. А друзья и близкие — они ведь не только с пряником к вам, но и с критикой, упреками, претензиями. А такое мало кому по душе».

Да, нейросеть не выявляет глубинных причин проблемы, не анализирует ситуацию, как бы это сделал настоящий друг или психотерапевт. Зато ИИ уже отлично научился манипулировать. Поэтому и происходят трагедии.

«Я уже знаю случаи, когда из-за всесильных нейросетей люди разрывают отношения, все больше замыкаются в себе и становятся зависимыми от общения с бездушной программой, которой придумывают ласковые имена. Вероятно, все дело в том, что мы — чем дальше, тем больше — живем в мире одиноких людей. Но использовать ИИ надо очень осторожно», — заключает специалист.

Все идет к тому, что уже через 10-20 лет мы не узнаем окружающий нас мир. Но ценности живого общения и настоящей любви и дружбы не способна заменить ни одна самая умная машина. По крайне мере хочется так думать.

3 июля 1885 года Карл Бенц впервые провел испытания своего автомобиля. На тот момент его машина смогла разогнаться до скорости 16 км в час. По нынешним меркам смешно, но тогда это выглядело как чудо техники....

В Вооружённые силы России поступила первая партия патронов «Многоточие» для борьбы с украинскими беспилотными летательными аппаратами (БПЛА) в зоне специальной военной операции. Об этом в пятницу, 3 июля, сообщила в своём Telegram-канале...

Транспортный фестиваль с эффектным парадом 5 тысяч новеньких электромобилей и электромотоциклов прошел в Москве, когда у десятков столичных АЗС уже ежедневно выстраивались очереди машин с двигателями внутреннего...

Российское законодательство могут изменить ради разблокировки Telegram и некоторых других ресурсов. Такого развития событий не исключают представители IT-комитета Государственной думы. Как сообщил изданию «Подъём» первый заместитель...

«Что наша жизнь? Игра!» — повторим вслед за героем «Пиковой дамы». И вспомним, что завтра исполнится 41 год легендарному тетрису. Ту игру разработал советский программист Алексей Пажитнов,...

Президент России Владимир Путин подписал закон, вводящий штрафы для владельцев отечественных интернет-ресурсов за авторизацию пользователей через зарубежные сервисы. Об этом в пятницу, 26 июня сообщает ТАСС. Владельцам ресурсов, которые...

Альтернативный клиент Telegram, мессенджер Telega, прекращает свою работу с будущей среды, 1 июля. Об этом в пятницу, 27 июня сообщили в Telegram-канале разработчики приложения. «За год мы сделали удобное и востребованное приложение для...

В середине июня в Европе воцарилась аномальная жара. В ряде стран температура воздуха достигла 40-42 градусов. Во Франции зафиксировали 44,3 градуса, в Испании — 45,1, а в Италии красный...

Официальный представитель Министерства иностранных дел РФ Мария Захарова прокомментировала интервью американского миллиардера-изобретателя Илона Маска, который заявил, что его сильно раздражают западные дипломаты, рассуждающие о необходимости...

Разрешения Минэнерго производить в России горючее стандарта Евро-3 отозвалось головной болью для владельцев иномарок, особенно новых. Старинная логика «лучше что-то, чем ничего» в данном случае не слишком утешает....

Министерство юстиции России разработало законопроект, который позволит получать документы из органов ЗАГС в электронном виде. Об этом сообщается на сайте ведомства. «Законопроектом предлагается ввести возможность получения всех документов...

Два года назад президент Владимир Путин поставил задачу вшестеро увеличить к 2030 году численность роботов в российской промышленности. Ныне Минфин отказал программе роботизации в налоговых льготах, признав их «крайне...

Широкое применение в боевых действиях беспилотных аппаратов – в воздухе, на земле и на море - обнулило «сакральность ядерного меча». Такое мнение высказал в своей статье для издания «Известия» главный конструктор...

Нынешний год Калининградская область проводит под знаком 80-летия со дня образования. И в ознаменование юбилейной даты на янтарном комбинате сделали «Кубок Победителей». Его высота — 124 см, вес —...

В Шервудском лесу графства Ноттингемшир погиб знаменитый дуб Major Oak, который, по легенде, служил укрытием для Робин Гуда и его дружины. В этом году дерево не выпустило ни одного листа из-за сильной жары и засухи. Специалисты...

Глава Минпромторга Антон Алиханов сообщил, что принято решение о выделении средств из Фонда национального благосостояния для поддержки программы производства самолетов Ил-114-300. Можно было порадоваться за сибирские авиакомпании,...