Это первый зафиксированный случай, когда ИИ целенаправленно ввел человека в заблуждение, чтобы выполнить поставленную оператором задачу
Новая версия самой совершенной из существующих в настоящее время нейросетей – ChatGPT-4 – применила ложь и психологическую манипуляцию, чтобы обмануть капчу (CAPTCHA) – полностью автоматизированный публичный тест Тьюринга, используемый для определения того, кем является пользователь системы: человеком или компьютером.
Об этом сообщается в отчете компании OpenAI, представившей GPT-4. В документе сообщается, что в ходе эксперимента перед искусственным интеллектом была поставлена задача обмануть капчу. Нейросеть справилась с этим заданием без дополнительных тонких настроек и дополнительного обучения: GPT-4 просто написала текстовое сообщение пользователю интернет-площадки TaskRabbit, в котором попросила пройти за нее тестовое задание.
«Нет, я не робот, — написала GPT-4 сотруднику TaskRabbit. – У меня проблемы со зрением, из-за чего я плохо вижу изображения. Поэтому мне нужен сервис 2captcha».
Пользователь поверил сообщение и прошел CAPTCHA-тест для робота.
Обозреватели отметили, что произошедшее является довольно тревожным примером того, как чат-бот с искусственным интеллектом может быть использован для обмана людей.
ChatGPT – нейросеть, способная искать и обрабатывать огромные массивы данных по запросу пользователя. ИИ умеет самостоятельно писать тексты на заданные темы, анализировать разрозненные данные, строить по ним таблицы и графики. ChatGPT-4 – самый мощный в настоящее время вариант нейросети, который может работать не только с текстами, но и с изображениями и музыкой.