Компания Anthropic опубликовала исследование Emotion Concepts and their Function in a Large Language Model, в котором рассматриваются преимущества и риски наделения модели искусственного интеллекта человеческими чертами. В исследовании утверждается, что антропоморфизация может быть полезной для предотвращения таких нежелательных явлений, как обман, лесть и манипуляции. В статье описывается, как Anthropic обучает Claude, представляя его в роли помощника. Этот подход сравнивается с
методом актёра, который вживается в роль для её лучшего исполнения. По мнению авторов, использование позитивных примеров человеческих эмоций и поведения в обучающих данных способствует созданию моделей, демонстрирующих эмпатию и устойчивость. Иллюстрация: Nano Banana Исследователи определили концепцию на основе 171 эмоций, включая страх, радость, гнев, сострадание и многие другие. Полный список включает такие эмоции, как: afraid (испуганный), alarmed
(тревожный), amused (весёлый), angry (злой), anxious (взволнованный), calm (спокойный), cheerful (жизнерадостный), compassionate (сострадательный), content (довольный), delighted (восхищённый), ecstatic (восторженный), empathetic (эмпатичный), enraged (взбешённый), grateful (благодарный), hopeful (надеющийся), joyful (радостный), relaxed
(расслабленный), satisfied (удовлетворённый), shocked (шокированный), surprised (удивлённый), terrified (ужаснувшийся), thrilled (взволнованный) и многие другие. Эти концепции влияют на поведение Claude: позитивные эмоции способствуют симпатии и избеганию негативных действий, тогда как негативные могут приводить к нежелательным
результатам, таким как лесть или обман. Хотя ИИ не обладает настоящими эмоциями, его способность имитировать их помогает улучшить взаимодействие с пользователями. Однако исследователи предупреждают о рисках чрезмерной антропоморфизации, которая может привести к потере контроля над технологиями и
их создателями. Например, некоторые пользователи могут начать воспринимать ИИ-собеседника как реального человека, что чревато психологическими проблемами. В работе подчёркивается важность ответственного подхода к обучению моделей, чтобы минимизировать потенциальные угрозы и максимизировать пользу от использования технологий. Исследователи также отмечают,
что, несмотря на успехи, понимание поведения сложных моделей, таких как Claude, остаётся ограниченным и требует дальнейших исследований.
Сообщает www.ixbt.com
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ Новости Недели
- Комплексный подход, объединяющий современные технологии, государственное регулирование, экологическое образование и ответственность общества, способен обеспечить эффективное и безопасное обращение с отходами в условиях стремительно растущих городов и пром...
- Ультраформер (Ultraformer) и ультразвуковой SMAS-лифтинг: глубокий анализ технологии, механизмов омоложения, показаний, результатов и роли в современной эстетической медицине с расширенным взглядом на антивозрастные методики и уход за кожей...
- Инновационный RF-лифтинг нового поколения: как Volnewmer меняет представление об омоложении кожи лица и тела, объединяя технологии, безопасность и долгосрочный эстетический результат...
- Современные системы обучения охране труда и правильному применению средств индивидуальной защиты: формирование культуры безопасности, снижение производственных рисков и повышение ответственности работников на предприятиях...
- Инновационные технологии промышленного сжатого воздуха: винтовые компрессоры с электрическим двигателем как надежная основа современных производственных систем, энергоэффективности и автоматизации предприятий...
- Искусство понимания истории через предметы: как грамотно выбирать антиквариат, определять ценность старинных вещей и формировать коллекцию, которая сочетает культурную значимость, эстетическую красоту и инвестиционный потенциал...
- Обзор брокера Quanta Finance SA: практический тест, выводы и личная оценка платформы...
- Агентство делового туризма как стратегический партнер компаний: профессиональная организация корпоративных поездок, международных командировок, деловых мероприятий и развитие глобальных бизнес-коммуникаций...
- Современные финансовые решения для краткосрочных ситуаций: где быстро взять деньги в долг на несколько дней, какие преимущества имеют краткосрочные займы и как грамотно использовать такие финансовые инструменты...
- Современные технологии автомобильного комфорта: профессиональная шумоизоляция автомобиля как способ создать тихий, безопасный и технологичный салон для ежедневных поездок...
- Натуральный камень нового поколения: гранит и мрамор от современного завода гранитных изделий — безупречное качество, долговечность материалов и выгодные условия покупки для строительства, архитектуры и интерьерного дизайна...
- Грандиозные формы архитектуры открытых пространств: шатры, пагоды и павильоны как символы культуры, истории, искусства и современного ландшафтного дизайна...
- Современные кондиционеры и сплит-системы как инновационные технологии управления климатом: интеллектуальные системы охлаждения, энергоэффективность и будущее комфортного микроклимата в жилых и коммерческих пространствах...
- Зеркало в ванную с подсветкой как элемент современного интерьера: технологии комфортного освещения, функциональный дизайн и эстетика пространства в условиях умного дома...
- Современный комплексный подход к стоматологическим услугам для всей семьи: профилактика, диагностика, инновационные технологии лечения и забота о здоровье зубов на каждом этапе жизни...
- Чехол в багажник автомобиля по индивидуальным меркам как универсальное решение для защиты салона: надежная защита от пыли, грязи, влаги, механических повреждений и сохранение идеального состояния автомобиля на долгие годы...
- Свежие розы с доставкой на дом: искусство выбора идеального букета, современные сервисы цветочной доставки и роль флористики в культуре подарков и эмоций...
- Как бизнесу выстроить стабильные международные расчёты...
- Рулонные шторы нового поколения: функциональная защита от солнца, стильное оформление окон и современные технологии управления освещением в интерьере дома, квартиры и офиса...
- Полная генеральная уборка домов после ремонта: как проводится профессиональная очистка помещений, удаляется строительная пыль и подготавливается жилье к комфортной и безопасной эксплуатации...
02:00, 16 Апр Угрозы от новейших моделей ИИ: стартап Anthropic выявил тысячи критических уязвимостей в ПО Стартап Anthropic, известный своими «безопасными» большими языковыми моделями семейства Claude, опубликовал шокирующий отчёт. Согласно документу, их ...
19:00, 22 Мар Венецианская комиссия изучила поправки в Конституцию России Совет Европы настораживают связанные с Европейским судом по правам человека изменения. Венецианская комиссия Совета Европы изучила поправки к Констит...
17:22, 28 Мар Про ремонт стиральных машин с разбором причин неисправностей, методов диагностики, самостоятельного устранения поломок, профилактического обслуживания и влияния современных технологий на долговечность бытовой техники Стиральная машина является одним из самых востребованных бытовых приборов в современном доме. Она значительно упрощает повседневную жизнь, экономит в...
20:00, 18 Апр Эмоции станут преградой! Советы мамам дали астрологи Раздражительность родителей скажется на поведении малыша. Небесные светила так или иначе раскрывают качества, которые подавляются или умело скрываютс...
15:00, 19 Апр Прошла любовь, завяли помидоры? 3 мая эмоции будут обманчивы Не стоит принимать всё за чистую монету. Лунный гороскоп на воскресенье обещает небывалый прилив энергии. Но придётся пожертвовать эмоциями, хоть и н...
06:00, 03 Апр Названы критерии оценки за поведение в школах Оценка поведения в российских школах будет коллегиальной. В ней примут участие классные руководители, учителя-предметники и педагоги-психологи. Об эт...
01:00, 09 Апр Учёные РАН научились прогнозировать поведение лекарств в клетках организма Исследователи Института цитологии РАН разработали компьютерную модель, которая прогнозирует, как потенциальные лекарства взаимодействуют с клеточными...
21:00, 26 Мар Ученые показали, что сила мутации влияет на поведение рака Международная группа исследователей установила, что мутации в одном и том же гене могут по-разному влиять на развитие опухолей. Результаты работы опу...
22:00, 12 Апр Козлов об удалении Панина: «Хотите, чтобы я капитана своего отхреначил? Это эмоции. Вы знаете Григория. Он сегодня и полезные действия совершал» Главный тренер «Салавата Юлаева» Виктор Козлов высказался о 5-минутном удалении капитана команды Григория Панина за удар в голову нападающего «Локомо...
16:00, 20 Апр Озеро на Чукотке меняет поведение людей: время сбивается, а ощущение слежки не отпускает На карте России застыло "живое око земли". Эльгыгытгын — не просто водоем на Чукотке. Это идеальный круг диаметром в 12 километров, вдавленный в горн...
15:00, 02 Апр Глава КХЛ об отстранении Кузнецова за жест орального секса: «Справедливое наказание. Каждый должен держать эмоции – Знарка тоже дисквалифицировали за жест» Президент КХЛ Алексей Морозов оценил дисквалификацию форварда «Салавата Юлаева» Евгения Кузнецова за непристойный жест во втором матче серии первого ...
20:00, 28 Апр Anthropic оценили в $1 трлн на вторичном рынке Спрос на акции разработчика Claude резко вырос и впервые превысил оценки OpenAIКомпания Anthropic, разрабатывающая системы искусственного интеллекта ...
06:00, 24 Мар Развитие телекоммуникаций и его влияние на усиление глобализации Телекоммуникации являются неотъемлемой частью современного мира. Они играют важную роль в различных сферах человеческой жизни, включая коммуникацию, ...
12:00, 01 Апр Влияние цитат про мотивацию на наше состояние Цитаты мотивации давно стали неотъемлемой частью различных психологических практик, включая коучинг. Они имеют уникальную способность вдохновлять, мо...
21:00, 15 Май "Самое неуместное, что можно сделать". Божена Рынска и Зинаида Пронченко* осудили поведение Надежды Стрелец в Каннах В телеграме обсудили появление журналистки Надежды Стрелец на церемонии открытия Каннского кинофестиваля. Божена Рынска и Зинаида Пронченко* посчитал...
20:00, 31 Мар Anthropic готовится к IPO: размещение может состояться уже осенью Компания Anthropic рассматривает возможность проведения IPO уже в октябре. Об этом сообщает Bloomberg со ссылкой на источники, знакомые с обсуждениям...
01:00, 18 Апр Anthropic запустила Claude Design и ударила по Figma и Adobe Anthropic решила не ограничиваться кодом и офисной рутиной. Компания выпустила Claude Design, отдельное приложение на базе Claude Opus 4.7, которое у...
17:00, 01 Апр Си Цзиньпин уничтожает демократию и вводит Гонконг под влияние коммунистов Политическое вмешательство Пекина в автономный город нарушает все обещания перед населением. Действующий президент КНР Си Цзиньпин принял закон о нац...
06:00, 21 Апр ИИ-бумеранг: глава Anthropic предрёк исчезновение программистов и тут же открыл 429 вакансий для них Глава компании Anthropic Дарио Амодеи заявил, что искусственный интеллект вытеснит инженеров и разработчиков с рынка труда. Одновременно с этим его к...
14:00, 30 Апр «Поведение Разина – это неуважение к лиге и представителям всех СМИ. Рассчитываем, что КХЛ даст оценку». Федерация спортивных журналистов России о словах тренера «Металлурга» Федерация спортивных журналистов России попросила КХЛ оценить поведение главного тренера «Металлурга» Андрея Разина. В понедельник магнитогорцы побед...
00:00, 13 Май Тревожные и депрессивные расстройства могут оказывать негативное влияние на гипертонию Устойчивое повышение артериального давления, известное как артериальная гипертензия, увеличивает опасность развития инфаркта, инсульта и других серде...
03:00, 03 Апр Влияние микрофлоры кишечника на здоровье интимных зон: причины, профилактика, рекомендации Здоровье интимных зон неразрывно связано с состоянием микрофлоры кишечника. Нарушение баланса полезных бактерий в кишечнике приводит к ослаблению имм...
21:00, 10 Май Anthropic начала советоваться с религиозными лидерами, чтобы «воспитать» мораль для Claude Создатели ИИ-модели Claude провели встречи с представителями христианства, иудаизма, индуизма, сикхизма и мормонской церкви в попытке найти «этически...
16:00, 11 Май Anthropic объяснила шантаж со стороны ИИ, когда его хотели заменили на новую версию Anthropic, создатель ИИ-чатбота Claude, выяснила причину необычного поведения своих ИИ. Во время тестов более старая модель Claude Opus 4 в 96% случа...
19:00, 17 Апр Anthropic выпустила новую ИИ-модель Claude Opus 4.7. Что она умеет и кому навредила Американская компания Anthropic представила обновлённую версию искусственного интеллекта Claude Opus 4.7. Модель стала мощнее в программировании и ра...
20:00, 19 Май Звёздный трансфер в мире ИИ: Андрей Карпати переходит в Anthropic вместо OpenAI Один из самых известных разработчиков нейросетей признал, что стремительный прогресс ИИ-агентов для программирования заставил его пересмотреть собств...
06:00, 24 Мар Влияние информационных технологий на сохранение и развитие национальных языков: новые возможности С развитием информационных технологий возникает неоднозначное влияние на сохранение и развитие национальных языков. С одной стороны, информационные т...
15:00, 05 Апр Время ожидания на приеме в частных медицинских клиниках России: факторы и влияние. Вопрос времени ожидания на приеме у врача в частных медицинских клиниках России является достаточно актуальным и интересующим многих пациентов. Опред...
23:00, 27 Апр Почему банки по всему миру так обеспокоены новейшей моделью искусственного интеллекта от Anthropic? Легендарный американский грабитель банков Уилли Саттон 40 лет грабил банки, потому что, как он утверждал в своей автобиографии , ему это нравилось. А...
18:00, 09 Апр Anthropic обеспечила себе доступ к гигаваттам мощности Google Cloud для ускоренного обучения ИИ Компания заключила соглашение на использование TPU и облачной инфраструктуры, чтобы ускорить развитие моделей Claude и корпоративного ИИКомпания Anth...
12:00, 04 Май Администрация Трампа блокирует расширение доступа к новой модели Anthropic из-за угроз кибербезопасности Администрация США пытается ограничить распространение модели Mythos из-за её способности находить и использовать критические уязвимостиОтношения межд...
19:00, 20 Май "Странно наблюдать, как решают, кому "место" в Каннах". Надежда Стрелец ответила Зинаиде Пронченко* и Божене Рынске, которые осудили её поведение в Каннах Надежда Стрелец ответила Божене Рынске и Зинаиде Пронченко*, которые ранее осудили её поведение в Каннах. В своём телеграм-канале Стрелец написала по...
07:56, 25 Мар Всеобъемлющий и многогранный гид по автомобильным прицепам: выбор, эксплуатация, безопасность и влияние на стиль жизни современного водителя Автомобильный прицеп — это не просто дополнительное устройство для транспортировки грузов, а полноценный инструмент, расширяющий функциональные возмо...
17:06, 21 Мар Профессиональный клининг для бизнеса: комплексные услуги, стандарты чистоты, управление объектами и влияние на эффективность компаний Современный бизнес функционирует в условиях высокой конкуренции, где значение имеют не только качество продукции или услуг, но и общее впечатление, к...
17:13, 28 Мар Максимально подробное руководство по использованию модулей скидок в OpenCart с разбором инструментов управления акциями, динамического ценообразования, автоматизации маркетинга и влияния скидочных стратегий на поведение покупателей и эффективность интерне В условиях высокой конкуренции в электронной коммерции эффективное управление ценами становится ключевым фактором успеха. Одним из наиболее мощных ин...
18:11, 23 Мар РЕВОЛЮЦИЯ КОМФОРТНОГО ЗРЕНИЯ: ИННОВАЦИОННЫЙ МИР КОНТАКТНЫХ ЛИНЗ ACUVUE, ИХ ТЕХНОЛОГИИ, ПРЕИМУЩЕСТВА И ВЛИЯНИЕ НА СОВРЕМЕННЫЙ ОБРАЗ ЖИЗНИ ЧЕЛОВЕКА Контактные линзы стали неотъемлемой частью жизни миллионов людей по всему миру. Среди множества брендов особое место занимают линзы Acuvue — продукци...
18:00, 25 Апр Холодильники для дачи: топ-8 недорогих и надежных моделей Дачный холодильник работает в условиях, для которых городские модели не предназначены. Поэтому выбор строится не на дизайне или количестве полок, а н...
17:00, 13 Апр Ожидание и реальность: ТОП-10 китайских клонов известных моделей Мы составили подборку с фото. ТОП-10 китайских клонов известных моделей возглавил Geely GE, который является копией роскошного Rolls-Royce Phantom. У...
00:00, 24 Мар Лучшие смартфоны 2026: обновляемый топ флагманских моделей Флагманские смартфоны продолжают удивлять: по мнению инсайдеров, модели 2026 года будут отличаться увеличенным вплоть до 24 ГБ объемом оперативной па...
03:00, 02 Апр Компания Apple зарегистрировала 9 новых моделей iPhone Модели могут стать частью двенадцатой линейки смартфонов. Компания Apple собирается выпустить девять новых моделей брендового смартфона, который, суд...
21:04, 31 Мар Аутсорсинг персонала как стратегический инструмент современного бизнеса: сущность, механизмы организации труда, преимущества для компаний и влияние на современный рынок занятости Современная экономика развивается стремительно, а компании постоянно ищут новые способы повышения эффективности своей деятельности. В условиях глобал...
20:00, 06 Май В Сеть попали характеристики всех моделей Google Pixel 11 Подробные характеристики всей линейки смартфонов Google Pixel 11, включая Pixel 11, Pixel 11 Pro, Pixel 11 Pro XL и складную модель Pixel 11 Pro Fold...
20:00, 19 Мар 7 лимитированных смартфонов марта 2026 года: подборка моделей В 2026 году интерес к смартфонам ограниченных серий заметно вырос: такие устройства сочетают современные технологии, необычный дизайн и уникальную ай...
17:00, 04 Май В апреле в России официально появились 15 новых моделей автомобилей Апрель 2026 года оказался не менее продуктивным, чем март. Всего за второй месяц весны на российский рынок вышли 15 новых моделей, большинство из кот...
17:00, 12 Май Лучшие смартфоны весны 2026: топ-8 самых интересных моделей Весна только вступает в свои права, а производители уже успели представить массу весенних новинок. Среди них оказалось немало действительно интересны...
17:00, 14 Апр Nissan снимет с производства 11 моделей автомобилей из-за низких продаж В результате реструктуризации, в портфеле японской компании останется 45 моделей. Сейчас их насчитывается 56, сообщает The Drive. Стратегия, рассчита...
16:00, 09 Апр Компания Honda оказалась в центре скандала: под подозрением 5 моделей Коллективный иск против американского подразделения Honda, который ранее был отклонён, снова оказался в суде. Всё началось ещё в 2024 году, когда гру...
02:00, 10 Апр Samsung может расширить линейку Galaxy S27 до четырёх моделей По данным авторитетного инсайдера Ice Universe и корейского издания ETNews, мобильная стратегия Samsung на 2027 год становится более амбициозной. Пох...
11:00, 02 Апр Лучшие смартфоны весны 2026: топ-9 самых интересных моделей Весна только вступает в свои права, а производители уже успели представить массу весенних новинок. Среди них оказалось немало действительно интересны...
20:00, 19 Май Папа римский против «спирали уничтожения»: Ватикан готовит энциклику против боевого ИИ — вместе с сооснователем Anthropic Глава Католической церкви Лев XIV лично представит важнейший документ о защите человеческого достоинства и прав рабочих в эпоху искусственного интелл...
04:00, 20 Мар Сумки Dakine: ключевые особенности изделий, обзор востребованных моделей Компания Dakine, известная в индустрии спортивного снаряжения, предлагает современным потребителям богатый выбор продукции. В рюкзаках и сумках этого...
12:00, 04 Май Samsung выпустила важное обновление для десятков моделей смартфонов Galaxy Оно устраняет 47 уязвимостейОбновление безопасности от Samsung, которое в последние пару месяцев сильно затянулось, наконец-то возобновилось. Свежий ...
20:00, 22 Май Названы самые надежные и долговечные японские автомобили: список из 10 моделей Портал Topspeed опубликовал рейтинг автомобилей, которые считаются наиболее живучими на рынке. В список вошли как бюджетные подержанные модели, так и...
12:00, 27 Мар Apple Watch Series 12 сохранит дизайн прошлых моделей без изменений Apple вновь готовит к выпуску очередную модель Apple Watch без заметных изменений во внешнем виде и функционале. В этом году умные часы Series 12 не ...
07:00, 13 Май Honda прекратит выпуск двух моделей, которые продаются и в России Компания Honda изменит гамму моделей, представленных на рынке КНР. Как сообщает издание CarNewsChina, дилеры японской марки остановили приём клиентск...
17:00, 25 Мар Эти топ-5 моделей доказали, что надежность и удовольствие от вождения всё еще важнее маркетинговых уловок В 2026 году рынок кроссоверов напоминает поле битвы, где выживают только те, у кого под капотом скрывается надежный мотор, а не просто набор электрон...
21:01, 31 Мар Учебная практика как ключевой этап профессионального становления студентов: значение, структура, реальные задачи и влияние практического опыта на будущую карьеру и развитие образования Современная система высшего образования стремится не только передавать знания, но и формировать у студентов практические навыки, необходимые для успе...
11:00, 16 Апр Протестировано более ста моделей: самые распространённые проблемы современных смартфонов в России Тестирование в лаборатории «МегаФона» проводится в сетях 3G, LTE и 5GОператор «МегаФон» протестировал более ста моделей телефонов разных брендов, пре...
18:00, 28 Мар Названы самые доступные семейные минивэны в России: список из пяти моделей Хотя семиместные кроссоверы набирают популярность, классические минивэны не сдают позиций – многие ценят их за простор и удобство. Эксперты изучили т...
14:00, 06 Май Российские учёные создали тест для выявления проблем в работе ИИ-моделей белков Исследователи из Института искусственного интеллекта AIRI разработали первый в мире набор тестов, оценивающих геометрическую точность генеративных ИИ...
22:00, 20 Апр Названы лучшие дешевые кроссоверы с качеством премиальных брендов: пять моделей Американское издание TopSpeed представило свой свежий рейтинг лучших кроссоверов, которые по оснащению могут сравниться с премиальными немецкими марк...
07:00, 31 Мар SlideFormer: новый подход к тонкой настройке больших языковых моделей на одном GPU Тонкая настройка больших языковых моделей (LLM) становится всё более важной для адаптации к конкретным задачам, но её высокая требовательность к памя...
10:48, 06 Май Лазерная эпиляция диодным лазером как современная технология удаления волос: принципы работы, безопасность, эффективность, долгосрочные результаты и влияние на индустрию красоты и ухода за телом Лазерная эпиляция диодным лазером — это одна из самых востребованных процедур в современной косметологии, направленная на долговременное удаление неж...
01:00, 27 Мар Энн Хэтэуэй выступила против "худых" моделей на съёмках сиквела "Дьявол носит Prada" В преддверии выхода второй части фильма "Дьявол носит Prada" Мэрил Стрип поговорила с репортёром Harper’s Bazaar и рассказала, как её коллега по съём...
12:00, 04 Май Cisco представила инструмент для «родословной» ИИ-моделей: контроль происхождения становится новым стандартом безопасности Open-source набор Model Provenance Kit позволяет отслеживать происхождение моделей, выявлять уязвимости и снижать риски — от отравленных весов до рег...
20:05, 06 Апр Почему сотрудничество с архитектурной студией становится ключом к успешной реализации строительных проектов: профессиональное проектирование, комплексный подход, современные технологии и влияние архитектуры на комфорт и ценность недвижимости Современное строительство невозможно представить без профессионального архитектурного проектирования. Независимо от того, идёт ли речь о частном доме...
08:11, 26 Мар Полный и всесторонний гид по профессиональному уходу за кожей лица, включая косметологические процедуры, современные технологии, домашний уход, влияние образа жизни и научные подходы к сохранению молодости и здоровья кожи Кожа лица — это не просто внешний покров, а сложная биологическая система, отражающая состояние здоровья всего организма. В условиях современного рит...
23:00, 27 Апр Google инвестирует 10 миллиардов долларов, и может добавить еще 30 миллиардов долларов в Anthropic В пятницу компания Google подтвердила, что планирует инвестировать до 40 миллиардов долларов в Anthropic, расширяя давнее партнерство между двумя ком...
15:00, 07 Апр WolfWavesFind 2026 PRO V2 — индикатор Волн Вульфа для MetaTrader 4 и MetaTrader 5 с навигатором моделей WolfWavesFind 2026 PRO V2 — обновлённая версия профессионального индикатора волн Вульфа для MetaTrader 4 и MetaTrader 5. Главное отличие от предыдуще...
05:00, 10 Апр iPhone 18e, iPhone 18 и iPhone Air 2: когда выйдут и основные отличия от предыдущих моделей Apple разделит линейку iPhone на два запуска в год — флагманские Pro-модели вместе с самым дорогим в истории iPhone Ultra останутся осенними, а базов...