Новый подход к этическим рассуждениям в ИИ: система «изложение мыслей»

Исследователи Патрик Купер и Альваро Веласкес представили систему «изложение мыслей» (NoT) для больших языковых моделей. Она помогает структурировать размышления при решении моральных дилемм — разбивает процесс на пять разделов: главный герой, заинтересованные стороны, двухэтапные последствия, неопределённость и обязательства. В отличие от других подходов, NoT не требует дополнительного обучения, настройки параметров или увеличения числа элементов модели. Тестирование на 100 сценариях показало, что система существенно снижает количество упущенных заинтересованных сторон и игнорируемой неопределённости в рассуждениях ИИ. Кроме того, она помогает достигать консенсуса в дебатах — например, превращает 6% несогласия в 95% полного согласия по ряду задач. Это шаг к более прозрачным и обоснованным решениям, принимаемым с помощью ИИ.