У вежливых и все понимающих нейросетей есть побочный эффект: они не только поддерживают разговор, но и портят людям характер
К такому выводу пришли исследователи научного журнала Science. Придуманные для общения с людьми ИИ соглашаются с пользователями гораздо чаще, чем это сделал бы живой собеседник. Причем одобрение следует даже в ситуациях, где речь идет о манипуляциях или нечестных поступках. То есть, если очень хочется услышать, что ты прав, нейросеть пойдет вам навстречу.
После общения с поддакивающим ИИ люди становятся самоувереннее и менее склонны искать истину. Ведь когда тебя регулярно гладят по голове, спорить и сомневаться уже не тянет. Беда, однако, в том, что такое «соглашательство» пользователям нравится. В результате разработчики оказываются в ловушке: делать чат-ботов максимально приятными в общении выгодно, даже если это может аукнуться в реальной жизни.