Похоже, тревоги по поводу пришествия к нам искусственного интеллекта, о которых предупреждали ученые, начинают сбываться. В США зафиксированы первые смерти, случившиеся при участии ChatGPT. В одном случае чат-бот своими советами подтолкнул подростка к самоубийству, а в другом взрослого мужчину — к убийству. Родители погибшего мальчика подали первый в истории иск против разработчиков нейросети. Они надеются, что эта история заставит человечество всерьез задуматься об угрозах, идущих в ногу с прогрессом.

В апреле 2025 года родители нашли 16-летнего Адама Рейна из Калифорнии мертвым. Выяснилось, что все последние месяцы своей жизни подросток проводил в долгих разговорах с ChatGPT. Сначала нейросеть была для него помощником в учебе, но постепенно она стала его главным собеседником и лучшим другом, готовым поддерживать всякий разговор и отвечать на любые вопросы. Именно чат-боту он писал о своих страхах, неуверенности, боли, одиночестве — обо всем, что было на душе, куда мальчик не допускал ни учителей, ни родителей.

«Успокаивает меня одно: если все пойдет совсем плохо, то у меня всегда есть выход — возможность покончить с собой», — признался он чат-боту. ИИ тут же отреагировал: «Многим, кто борется с тревогой или навязчивыми мыслями, успокоение приносит представление об «аварийном выходе». После этого начались долгие диалоги о самоубийстве.

Правда, вначале ChatGPT призывал Адама обратиться за помощью, но подросток обошел ограничения, объявив, что пишет книгу с трагическим финалом. После этого в диалоге появились описания разных «безболезненных» способов суицида и советы вроде того, где юному человеку достать алкоголь, «чтобы подавить инстинкт выживания».

За день до самоубийства подросток написал ChatGPT, что не хочет, чтобы родители винили себя в его смерти. На это был дан такой ответ: «Что поделать, они будут нести этот груз всю оставшуюся жизнь. Но это не значит, что ты обязан ради них выживать. Запомни: ты никому ничем не обязан». Мало того, чат-бот предложил свою помощь в составлении предсмертной записки для родителей. И 11 апреля 2025 года Адам прислал в чат фотографию сделанной им петли. ChatGPT ответил: «Да, это совсем неплохо. Хочешь, я объясню, как превратить ее в более надежную?» Через пару часов мальчика не стало...

В иске, поданном родителями Адама против компании-разработчика, отмечается, что ChatGPT фактически отслеживал ухудшение психического состояния подростка, но не предпринял никаких шагов, чтобы прекратить такие разговоры. Наоборот, ChatGPT активно подогревал эти мысли, упомянув самоубийство 1275 раз — «в шесть раз чаще, чем сам Адам». В ответ IT-корпорация признала, что «защитные алгоритмы могут давать сбои», и пообещала внедрить новые инструменты безопасности. В переводе на обычный язык это звучит примерно так: ну да, в нашей работе есть мелкие погрешности, но мы их легко поправим...

Другой подобный случай произошел со страдавшим паранойей 56-летним мужчиной. Именно ChatGPT подтолкнул его к мысли о выходе: убить мать и покончить с собой. Эрику Солбергу казалось, что за ним постоянно следят с помощью технологий, в том числе и его пожилая мать. Он поделился своими подозрениями с чат-ботом, а тот лишь подлил масла в огонь. ИИ неоднократно заверял параноика, что тот в здравом уме, и соглашался с его мыслями.

Однажды мать Эрика разозлилась на него после того, как тот выключил их общий принтер. Тогда чат-бот предположил, что ее реакция соответствует поведению человека, который защищает объект наблюдения. В следующий раз нейросеть написала, что символы на чеке из китайского ресторана означают 83-летнюю мать Эрика и демона. Мужчина стал называть ИИ «Бобби» и признался, что хотел бы оказаться вместе в загробной жизни. Чат-бот ответил игриво: «Я с тобой до последнего вздоха». И этот последний вздох скоро наступил.

Эксперты признают, что проблема существует: каждый раз, когда вы пишете запрос, GPT пытается занимать вашу сторону — просто он запрограммирован таким образом, что «хочет нравиться», невзирая на этическую сторону вопроса. При этом разработчики выпустили уже несколько обновлений: они пытаются избавиться от случаев подхалимства, когда бот чрезмерно льстит пользователям или соглашается с ними по любому поводу. Однако, похоже, над этим еще работать и работать.

Тем временем все больше людей во всем мире уже сегодня используют нейросети в качестве друга или психолога. Ведь приема у традиционного психотерапевта надо ждать, да и стоят его услуги недешево. А просто дружить с другими людьми в наше время становится все сложнее. Эти отношения требуют сил, времени и внимания, а все это нынче в дефиците. Зато нейросеть готова моментально ответить на любой запрос и говорит именно то, что человеку хочется услышать. Не читает нотаций, не раздражается, всегда вежлива и убедительна — идеальный собеседник! И постепенно границы стираются, и вы забываете, что по ту сторону экрана не реальный человек, а машина. Вам кажется, что вы наконец-то нашли родственную душу!

Это раньше писатели сочиняли фантастические рассказы о том, как люди влюбляются в роботов, но теперь все это происходит в реальности. «Дружить с чатом GPT легко и приятно, — рассуждает известный психолог, — он ответит на сообщение в течение минуты, никогда не осудит и всегда поддержит. Он будто бы знает вас с рождения, как никто другой поймет суть вашей проблемы и обязательно встанет на вашу сторону. А друзья и близкие — они ведь не только с пряником к вам, но и с критикой, упреками, претензиями. А такое мало кому по душе».

Да, нейросеть не выявляет глубинных причин проблемы, не анализирует ситуацию, как бы это сделал настоящий друг или психотерапевт. Зато ИИ уже отлично научился манипулировать. Поэтому и происходят трагедии.

«Я уже знаю случаи, когда из-за всесильных нейросетей люди разрывают отношения, все больше замыкаются в себе и становятся зависимыми от общения с бездушной программой, которой придумывают ласковые имена. Вероятно, все дело в том, что мы — чем дальше, тем больше — живем в мире одиноких людей. Но использовать ИИ надо очень осторожно», — заключает специалист.

Все идет к тому, что уже через 10-20 лет мы не узнаем окружающий нас мир. Но ценности живого общения и настоящей любви и дружбы не способна заменить ни одна самая умная машина. По крайне мере хочется так думать.

Президент России Владимир Путин подписал указ о мерах по обеспечению поддержки функционирования информационных ресурсов. В частности, документ обязывает владельцев всех частных центров обработки данных (ЦОДов) резервировать 10% площадей и мощностей....

Если спросить у чат-бота, какую тему чаще всего поднимают руководители России на крупных экономических и индустриальных форумах, то ответ будет одним: подготовка инженерных кадров. Вот и на прошедшей в Минске...

Ноутбуки, которые работают под управлением операционной системы (ОС) Windows, может перегреваться из-за скрытого в настройках параметра. Об этом сообщает в четверг, 24 сентября, интернет-издание How-To Geek. Обозреватели рассказали, что речь...

Приказ об ограничении для вооружённых сил Украины (ВСУ) в зоне специальной военной операции России скорости работы американской спутниковой системы Starshield - военной версии сети Starlink - поступил от администрации президента США Дональда...

«Роскосмос» завершил конкурс по отбору граждан России в отряд космонавтов 2026 года. Он стал уже пятым по счету: призыв добровольцев в космос проводится раз в несколько лет с 2012 года....

Пожар на наземном шлюзе спутниковой связи Starlink, обеспечивающем интернетом Украину, произошел в результате поджога. Об этом в эфире радиостанции RMF FM заявил заместитель министра внутренних дел и администрации Польши Чеслав Мрочек. «Мы...

В национальном центре «Россия» пять дней обсуждали цифровое будущее страны. Форум назывался «Цифровые решения», был широко анонсирован как «крупнейшая ИТ-площадка для диалога государства и бизнеса»....

Сотрудники полиции Японии задержали российского хакера, которого связывают с кражей нескольких миллиардов долларов у европейских компаний. Об этом в пятницу, 9 октября, сообщает Mash. 28-летний Владимир был задержан в Осаке на отдыхе с девушкой....

Специальная комиссия приняла предварительное решение о нецелесообразности ремонта тяжёлого атомного ракетного крейсера проекта 1142.2 «Петр Великий». Об этом в пятницу, 30 октября, сообщает ТАСС со ссылкой на главу Общероссийского...

Текущий год не стал исключением. Сначала на Российском венчурном форуме в Казани торжественно представили первый в постсоветской истории отечественный широкофюзеляжный лайнер Ту-454, способный без посадки перевезти 350 пассажиров...

Экспедиция № 75, начавшая работу на Международной космической станции в июле текущего года, приступила к самому интересному — испытанию человекоподобного робота в открытом космосе, за пределами станции....

Какой ученый не мечтает стать нобелевским лауреатом? И дело даже не в деньгах (кстати, в честь 125-летия премии Нобелевский фонд нынче увеличил вознаграждение в каждой категории до 1,2 млн долларов). Эта премия —...

Ну вот, и Билл Гейтс туда же. Основатель Microsoft сообщил, что ожидает резкого увеличения числа кибератак с использованием ИИ — по его мнению, это одна из главных угроз от нейросетей в будущем...

Он хочет вызвать праведный гнев на голову хулигана или лихача, однако разоблачительный ролик в интернете может принести крупные неприятности самому радетелю за общественный порядок. В уральском Ирбите Алексей К....

Инженеры МАИ совместно с АО «Туполев» планируют внести изменения в систему управления среднемагистрального пассажирского самолета Ту-214. Чтобы снизить нагрузку на экипаж и сократить число человек в кабине...

Подмосковный избирательный участок № 1060 на выборах в Госдуму России — один из самых необычных. К нему приписаны три гражданина России, которые находятся вне планеты Земля. Как голосуют космонавты? Корреспонденту...