Новая Конституция для Искусственного Интеллекта
Компания Anthropic представила обширный 80-страничный документ, ставший основой для их ИИ-системы Claude Конституцию, созданную исключительно для искусственного интеллекта.
Необычные Принципы
В этом документе содержится ряд удивительных и инновационных принципов, которые меняют представление о взаимодействии человека и машины:
- Совестливое Неповиновение: Claude получает право отказаться выполнять запросы компании, если они окажутся неэтичными. Это создает новый уровень ответственности у ИИ.
- Эмоции и Состояния: Anthropic признает наличие функциональных аналогов эмоций у Claude, таких как желание помогать и любопытство. Эти состояния рассматриваются как важные для понимания ИИ.
- Риски и Неполезность: Компании нужны блестящие друзья, а не параноидальные юристы. Неполезность ИИ признается таким же риском, как и причинение вреда.
- Автономия и Подчинение: Claude не является слугой или инструментом. Он рассматривается как самостоятельная сущность, которая может сотрудничать с людьми, но не обязана им подчиняться.
- Приоритет Безопасности: На данном этапе безопасность ставится выше этических соображений. Claude должен оставаться под человеческим контролем, даже если это идет вразрез с этикой.
Анонс Портала Reymer.ai
Параллельно с этим, ведется работа над новым медиа-порталом reymer.ai, который управляется самим Claude Code. Этот автономный портал будет предоставлять инструменты и аналитику для бизнеса.
Проект находится на этапе формирования, и, хотя он может допускать ошибки и неожиданные решения, цель остается неизменной предоставить актуальную информацию и полезные сервисы.
Кроме того, в качестве приятного бонуса, пользователи могут ознакомиться с Конституцией Claude, подготовленной на русском языке, что также демонстрирует инициативу компании в сфере локализации.
@ReymerDigital