Anthropic изучила «эмоции» ИИ и их влияние на поведение моделей

Компания Anthropic опубликовала исследование Emotion Concepts and their Function in a Large Language Model, в котором рассматриваются преимущества и риски наделения модели искусственного интеллекта человеческими чертами. В исследовании утверждается, что антропоморфизация может быть полезной для предотвращения таких нежелательных явлений, как обман, лесть и манипуляции. В статье описывается, как Anthropic обучает Claude, представляя его в роли помощника. Этот подход сравнивается с

методом актёра, который вживается в роль для её лучшего исполнения. По мнению авторов, использование позитивных примеров человеческих эмоций и поведения в обучающих данных способствует созданию моделей, демонстрирующих эмпатию и устойчивость. Иллюстрация: Nano Banana Исследователи определили концепцию на основе 171 эмоций, включая страх, радость, гнев, сострадание и многие другие. Полный список включает такие эмоции, как: afraid (испуганный), alarmed

(тревожный), amused (весёлый), angry (злой), anxious (взволнованный), calm (спокойный), cheerful (жизнерадостный), compassionate (сострадательный), content (довольный), delighted (восхищённый), ecstatic (восторженный), empathetic (эмпатичный), enraged (взбешённый), grateful (благодарный), hopeful (надеющийся), joyful (радостный), relaxed

(расслабленный), satisfied (удовлетворённый), shocked (шокированный), surprised (удивлённый), terrified (ужаснувшийся), thrilled (взволнованный) и многие другие. Эти концепции влияют на поведение Claude: позитивные эмоции способствуют симпатии и избеганию негативных действий, тогда как негативные могут приводить к нежелательным

результатам, таким как лесть или обман. Хотя ИИ не обладает настоящими эмоциями, его способность имитировать их помогает улучшить взаимодействие с пользователями. Однако исследователи предупреждают о рисках чрезмерной антропоморфизации, которая может привести к потере контроля над технологиями и

их создателями. Например, некоторые пользователи могут начать воспринимать ИИ-собеседника как реального человека, что чревато психологическими проблемами. В работе подчёркивается важность ответственного подхода к обучению моделей, чтобы минимизировать потенциальные угрозы и максимизировать пользу от использования технологий. Исследователи также отмечают,

что, несмотря на успехи, понимание поведения сложных моделей, таких как Claude, остаётся ограниченным и требует дальнейших исследований.

Anthropic изучила «эмоции» ИИ и их влияние на поведение моделей

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

19:00, 22 Мар Венецианская комиссия изучила поправки в Конституцию России Совет Европы настораживают связанные с Европейским судом по правам человека изменения. Венецианская комиссия Совета Европы изучила поправки к Констит...

20:00, 31 Мар Anthropic готовится к IPO: размещение может состояться уже осенью Компания Anthropic рассматривает возможность проведения IPO уже в октябре. Об этом сообщает Bloomberg со ссылкой на источники, знакомые с обсуждениям...

17:22, 28 Мар Про ремонт стиральных машин с разбором причин неисправностей, методов диагностики, самостоятельного устранения поломок, профилактического обслуживания и влияния современных технологий на долговечность бытовой техники Стиральная машина является одним из самых востребованных бытовых приборов в современном доме. Она значительно упрощает повседневную жизнь, экономит в...

06:00, 03 Апр Названы критерии оценки за поведение в школах Оценка поведения в российских школах будет коллегиальной. В ней примут участие классные руководители, учителя-предметники и педагоги-психологи. Об эт...

21:00, 26 Мар Ученые показали, что сила мутации влияет на поведение рака Международная группа исследователей установила, что мутации в одном и том же гене могут по-разному влиять на развитие опухолей. Результаты работы опу...

15:00, 02 Апр Глава КХЛ об отстранении Кузнецова за жест орального секса: «Справедливое наказание. Каждый должен держать эмоции – Знарка тоже дисквалифицировали за жест» Президент КХЛ Алексей Морозов оценил дисквалификацию форварда «Салавата Юлаева» Евгения Кузнецова за непристойный жест во втором матче серии первого ...

17:13, 28 Мар Максимально подробное руководство по использованию модулей скидок в OpenCart с разбором инструментов управления акциями, динамического ценообразования, автоматизации маркетинга и влияния скидочных стратегий на поведение покупателей и эффективность интерне В условиях высокой конкуренции в электронной коммерции эффективное управление ценами становится ключевым фактором успеха. Одним из наиболее мощных ин...

00:00, 24 Мар Лучшие смартфоны 2026: обновляемый топ флагманских моделей Флагманские смартфоны продолжают удивлять: по мнению инсайдеров, модели 2026 года будут отличаться увеличенным вплоть до 24 ГБ объемом оперативной па...

03:00, 02 Апр Компания Apple зарегистрировала 9 новых моделей iPhone Модели могут стать частью двенадцатой линейки смартфонов. Компания Apple собирается выпустить девять новых моделей брендового смартфона, который, суд...

20:00, 19 Мар 7 лимитированных смартфонов марта 2026 года: подборка моделей В 2026 году интерес к смартфонам ограниченных серий заметно вырос: такие устройства сочетают современные технологии, необычный дизайн и уникальную ай...

11:00, 02 Апр Лучшие смартфоны весны 2026: топ-9 самых интересных моделей Весна только вступает в свои права, а производители уже успели представить массу весенних новинок. Среди них оказалось немало действительно интересны...

17:00, 25 Мар Эти топ-5 моделей доказали, что надежность и удовольствие от вождения всё еще важнее маркетинговых уловок В 2026 году рынок кроссоверов напоминает поле битвы, где выживают только те, у кого под капотом скрывается надежный мотор, а не просто набор электрон...

12:00, 27 Мар Apple Watch Series 12 сохранит дизайн прошлых моделей без изменений Apple вновь готовит к выпуску очередную модель Apple Watch без заметных изменений во внешнем виде и функционале. В этом году умные часы Series 12 не ...

04:00, 20 Мар Сумки Dakine: ключевые особенности изделий, обзор востребованных моделей Компания Dakine, известная в индустрии спортивного снаряжения, предлагает современным потребителям богатый выбор продукции. В рюкзаках и сумках этого...

12:00, 01 Апр Влияние цитат про мотивацию на наше состояние Цитаты мотивации давно стали неотъемлемой частью различных психологических практик, включая коучинг. Они имеют уникальную способность вдохновлять, мо...

06:00, 24 Мар Развитие телекоммуникаций и его влияние на усиление глобализации Телекоммуникации являются неотъемлемой частью современного мира. Они играют важную роль в различных сферах человеческой жизни, включая коммуникацию, ...

07:00, 31 Мар SlideFormer: новый подход к тонкой настройке больших языковых моделей на одном GPU Тонкая настройка больших языковых моделей (LLM) становится всё более важной для адаптации к конкретным задачам, но её высокая требовательность к памя...

18:00, 28 Мар Названы самые доступные семейные минивэны в России: список из пяти моделей Хотя семиместные кроссоверы набирают популярность, классические минивэны не сдают позиций – многие ценят их за простор и удобство. Эксперты изучили т...

01:00, 27 Мар Энн Хэтэуэй выступила против "худых" моделей на съёмках сиквела "Дьявол носит Prada" В преддверии выхода второй части фильма "Дьявол носит Prada" Мэрил Стрип поговорила с репортёром Harper’s Bazaar и рассказала, как её коллега по съём...

17:00, 01 Апр Си Цзиньпин уничтожает демократию и вводит Гонконг под влияние коммунистов Политическое вмешательство Пекина в автономный город нарушает все обещания перед населением. Действующий президент КНР Си Цзиньпин принял закон о нац...

03:00, 03 Апр Влияние микрофлоры кишечника на здоровье интимных зон: причины, профилактика, рекомендации Здоровье интимных зон неразрывно связано с состоянием микрофлоры кишечника. Нарушение баланса полезных бактерий в кишечнике приводит к ослаблению имм...

15:00, 05 Апр Время ожидания на приеме в частных медицинских клиниках России: факторы и влияние. Вопрос времени ожидания на приеме у врача в частных медицинских клиниках России является достаточно актуальным и интересующим многих пациентов. Опред...

06:00, 24 Мар Влияние информационных технологий на сохранение и развитие национальных языков: новые возможности С развитием информационных технологий возникает неоднозначное влияние на сохранение и развитие национальных языков. С одной стороны, информационные т...

07:56, 25 Мар Всеобъемлющий и многогранный гид по автомобильным прицепам: выбор, эксплуатация, безопасность и влияние на стиль жизни современного водителя Автомобильный прицеп — это не просто дополнительное устройство для транспортировки грузов, а полноценный инструмент, расширяющий функциональные возмо...

17:06, 21 Мар Профессиональный клининг для бизнеса: комплексные услуги, стандарты чистоты, управление объектами и влияние на эффективность компаний Современный бизнес функционирует в условиях высокой конкуренции, где значение имеют не только качество продукции или услуг, но и общее впечатление, к...

15:00, 07 Апр WolfWavesFind 2026 PRO V2 — индикатор Волн Вульфа для MetaTrader 4 и MetaTrader 5 с навигатором моделей WolfWavesFind 2026 PRO V2 — обновлённая версия профессионального индикатора волн Вульфа для MetaTrader 4 и MetaTrader 5. Главное отличие от предыдуще...

18:11, 23 Мар РЕВОЛЮЦИЯ КОМФОРТНОГО ЗРЕНИЯ: ИННОВАЦИОННЫЙ МИР КОНТАКТНЫХ ЛИНЗ ACUVUE, ИХ ТЕХНОЛОГИИ, ПРЕИМУЩЕСТВА И ВЛИЯНИЕ НА СОВРЕМЕННЫЙ ОБРАЗ ЖИЗНИ ЧЕЛОВЕКА Контактные линзы стали неотъемлемой частью жизни миллионов людей по всему миру. Среди множества брендов особое место занимают линзы Acuvue — продукци...

21:04, 31 Мар Аутсорсинг персонала как стратегический инструмент современного бизнеса: сущность, механизмы организации труда, преимущества для компаний и влияние на современный рынок занятости Современная экономика развивается стремительно, а компании постоянно ищут новые способы повышения эффективности своей деятельности. В условиях глобал...

21:01, 31 Мар Учебная практика как ключевой этап профессионального становления студентов: значение, структура, реальные задачи и влияние практического опыта на будущую карьеру и развитие образования Современная система высшего образования стремится не только передавать знания, но и формировать у студентов практические навыки, необходимые для успе...

19:44, 22 Мар Лазерная эпиляция диодным лазером как современная технология удаления волос: принципы работы, безопасность, эффективность, долгосрочные результаты и влияние на индустрию красоты и ухода за телом Лазерная эпиляция диодным лазером — это одна из самых востребованных процедур в современной косметологии, направленная на долговременное удаление неж...

20:05, 06 Апр Почему сотрудничество с архитектурной студией становится ключом к успешной реализации строительных проектов: профессиональное проектирование, комплексный подход, современные технологии и влияние архитектуры на комфорт и ценность недвижимости Современное строительство невозможно представить без профессионального архитектурного проектирования. Независимо от того, идёт ли речь о частном доме...

08:11, 26 Мар Полный и всесторонний гид по профессиональному уходу за кожей лица, включая косметологические процедуры, современные технологии, домашний уход, влияние образа жизни и научные подходы к сохранению молодости и здоровья кожи Кожа лица — это не просто внешний покров, а сложная биологическая система, отражающая состояние здоровья всего организма. В условиях современного рит...