Проблема современных систем ИИ
Современные системы искусственного интеллекта становятся умнее день ото дня. Они могут отвечать на вопросы, резюмировать книги и даже писать код лучше новичков. Однако при общении с ними часто возникает ощущение эмоциональной дистанции.
Почему это происходит?
Проблема заключается не столько в самой модели, сколько в способе её обучения. Современные методы включают обучение на больших наборах данных и использование техник вроде подкрепляющего обучения с обратной связью человека. Но есть один важный нюанс:
Большинство систем обратной связи оптимизированы под правильность ответов, безопасность и общую полезность, а не под такие аспекты как эмоциональный подтекст или способность вызывать доверие у пользователя.
Альтернативное решение
Что если вместо вопроса «Правильный ли ответ?» задать вопрос «Выглядит ли этот ответ правильным людям?» Более того, что если позволить пользователям напрямую редактировать ответы ИИ, а не просто оценивать их?
Эксперимент: Чатбот с возможностью редактирования ответов людьми
Был создан экспериментальный проект под названием Crowdians. Его идея проста:
- Пользователь общается со своим персонализированным виртуальным помощником;
- Если ему не нравится полученный ответ, он отправляет его в специальную академию;
- Другие пользователи переписывают ответ так, чтобы он звучал более естественно и подходил пользователю;
- Сообщество голосует за лучший вариант;
- Система собирает одобренные сообществом улучшенные версии ответов.
Таким образом, вместо простого сбора отзывов система получает конкретные улучшения ответов.
Почему это важно
Большинство существующих систем машинного обучения используют пассивную обратную связь, например ранжирование сигналов или метки данных. Проект Crowdians предлагает другой подход – активное совместное создание ответов пользователями. Это позволяет рассматривать пользователей не только как оценщиков, но и как активных участников процесса создания лучших ответов.