Ключевые слова: искусственный интеллект; искусственный моральный помощник; биотехнологическое моральное улучшение; моральный эксперт; этические риски; свобода; моральная агентность; галлюцинации; предвзятость.

Биотехнологическое моральное улучшение поднимает вопросы о допустимости и безопасности подобных вмешательств, прежде всего связанных с сохранением свободы и практической реализуемостью. Для решения этих проблем исследователи обращаются к потенциалу искусственного интеллекта (ИИ) через создание специализированных моральных систем. Статья анализирует подходы к разработке морального ИИ на базе сильных и слабых систем, оценивая как их способность решать проблемы биотехнологического морального улучшения, так и новые риски, которые они создают. В современных исследованиях выделяются две формы морального ИИ: автономные искусственные моральные агенты на основе сильных систем, контролирующие человеческое поведение, и искусственные моральные помощники (ИМП) на базе слабых систем, выступающие как часть программ биотехнологического морального улучшения.
Ключевыми проблемами подходов с использованием сильных систем ИИ являются претензии на агентность и риски ограничения свободы человека. Менее инвазивной альтернативой представляются слабые системы ИИ в роли персонализированных моральных экспертов. Исследование также затрагивает вопрос о реализуемости моральной экспертности через технологии ИИ и проблемы генеративных систем в контексте принятия моральных решений. Автор приходит к выводу о невозможности и этической недопустимости реализации существующих проектов ИМП и опасности их применения для морального развития человека.