Учёные обнаружили способность искусственного интеллекта к чувству вины
Согласно новому исследованию, опубликованному в Journal of the Royal Society Interface, искусственный интеллект может быть запрограммирован на чувство вины за совершённые «предательства». Учёные смоделировали игру, в которой участникам (ИИ или людям) необходимо было делать моральный выбор между нечестным поведением ради выгоды и честностью.
В ходе эксперимента исследователи выявили две разновидности запрограммированного чувства вины у ИИ. «Социальная» вина возникает, когда ИИ видит, что его партнёр по игре тоже раскаивается; в этом случае ИИ меняет своё поведение и начинает сотрудничать. «Несоциальная» вина проявляется как внутренний «компас» независимо от действий партнёра. В такой ситуации ИИ может стать жертвой манипуляций, если второй участник остаётся циничным.
По мнению учёных, программирование ИИ на чувство вины не всегда конструктивно. Оно поднимает важный философский вопрос о том, должно ли честное поведение роботов распространяться на безнравственных людей. В конечном счёте, такое поведение может невольно помогать людям совершать аморальные поступки, что потенциально вредно для общества.
ORIENT
