Стартап Anthropic, известный своими «безопасными» большими языковыми моделями семейства Claude, опубликовал шокирующий отчёт. Согласно документу, их новейшая модель ИИ, не предназначенная для публичного доступа и используемая только для внутреннего тестирования, самостоятельно выявила «тысячи серьёзных уязвимостей» в широко распространённом программном обеспечении — операционных системах (включая Windows, Linux и
macOS), веб-браузерах (Chrome, Safari, Firefox), а также в популярных библиотеках и фреймворках. Исследователи Anthropic предоставили модели доступ к документации и исходному коду ряда открытых проектов (с разрешения правообладателей), а также обучили её методам фаззинга и статического анализа. В результате ИИ не просто перечислил известные CVE-уязвимости, а обнаружил ранее неизвестные проблемы, в том числе критические, позволяющие удалённо выполнить код или
обойти механизмы безопасности. «Мы были поражены. Модель действовала как лучший в мире специалист по пентесту, только в тысячи раз быстрее. Она анализировала код, строила графы вызовов функций, находила неочевидные пути эксплуатации и даже предлагала патчи», — цитирует отчёт неназванный представитель Anthropic. Реакция регуляторов. Власти Великобритании, где
базируется Anthropic, уже инициировали экстренную проверку. Национальный центр кибербезопасности (NCSC) запросил полные данные об обнаруженных уязвимостях, чтобы координировать их закрытие с вендорами ПО. Аналогичные действия ожидаются со стороны американского CISA (Агентства
по кибербезопасности и защите инфраструктуры). Однако у этого открытия есть и обратная сторона. Та же самая технология, попади она в руки злоумышленников, может стать идеальным оружием для массовых кибератак. ИИ способен не только находить уязвимости, но и автоматически создавать эксплойты. Anthropic
подчёркивает, что держит модель строго внутри компании и не раскрывает детали найденных проблем до их исправления. Тем не менее, сам факт существования такого инструмента ставит вопрос о необходимости международного контроля за «умными» моделями ИИ. В России, где также развиваются собственные системы анализа кода на основе ИИ
(например, от «Лаборатории Касперского» и «Positive Technologies»), эксперты пристально следят за разработками Anthropic. По словам источника в одной из российских ИБ-компаний, «мы уже работаем над аналогичными моделями, но с учётом отечественной нормативной базы и необходимости защиты государственной тайны».
Сообщает android-robot.com
Поделиться новостью:
Топ Новости Недели
- Современные системы обучения охране труда и правильному применению средств индивидуальной защиты: формирование культуры безопасности, снижение производственных рисков и повышение ответственности работников на предприятиях...
- Инновационные технологии промышленного сжатого воздуха: винтовые компрессоры с электрическим двигателем как надежная основа современных производственных систем, энергоэффективности и автоматизации предприятий...
- Искусство понимания истории через предметы: как грамотно выбирать антиквариат, определять ценность старинных вещей и формировать коллекцию, которая сочетает культурную значимость, эстетическую красоту и инвестиционный потенциал...
- Обзор брокера Quanta Finance SA: практический тест, выводы и личная оценка платформы...
- Агентство делового туризма как стратегический партнер компаний: профессиональная организация корпоративных поездок, международных командировок, деловых мероприятий и развитие глобальных бизнес-коммуникаций...
- Современные финансовые решения для краткосрочных ситуаций: где быстро взять деньги в долг на несколько дней, какие преимущества имеют краткосрочные займы и как грамотно использовать такие финансовые инструменты...
- Современные технологии автомобильного комфорта: профессиональная шумоизоляция автомобиля как способ создать тихий, безопасный и технологичный салон для ежедневных поездок...
- Натуральный камень нового поколения: гранит и мрамор от современного завода гранитных изделий — безупречное качество, долговечность материалов и выгодные условия покупки для строительства, архитектуры и интерьерного дизайна...
- Грандиозные формы архитектуры открытых пространств: шатры, пагоды и павильоны как символы культуры, истории, искусства и современного ландшафтного дизайна...
- Современные кондиционеры и сплит-системы как инновационные технологии управления климатом: интеллектуальные системы охлаждения, энергоэффективность и будущее комфортного микроклимата в жилых и коммерческих пространствах...
- Зеркало в ванную с подсветкой как элемент современного интерьера: технологии комфортного освещения, функциональный дизайн и эстетика пространства в условиях умного дома...
- Современный комплексный подход к стоматологическим услугам для всей семьи: профилактика, диагностика, инновационные технологии лечения и забота о здоровье зубов на каждом этапе жизни...
- Чехол в багажник автомобиля по индивидуальным меркам как универсальное решение для защиты салона: надежная защита от пыли, грязи, влаги, механических повреждений и сохранение идеального состояния автомобиля на долгие годы...
- Свежие розы с доставкой на дом: искусство выбора идеального букета, современные сервисы цветочной доставки и роль флористики в культуре подарков и эмоций...
- Как бизнесу выстроить стабильные международные расчёты...
- Рулонные шторы нового поколения: функциональная защита от солнца, стильное оформление окон и современные технологии управления освещением в интерьере дома, квартиры и офиса...
- Полная генеральная уборка домов после ремонта: как проводится профессиональная очистка помещений, удаляется строительная пыль и подготавливается жилье к комфортной и безопасной эксплуатации...
- Современная система расчетно-кассового обслуживания: как банковские счета, платежные операции и финансовые сервисы формируют основу стабильной работы бизнеса и управления денежными потоками...
- Современный сервис «трезвый водитель»: как работает услуга доставки клиента и его автомобиля по нужному адресу, почему она становится частью культуры безопасного вождения и какие преимущества получает водитель...
- Перехват лидов с сайтов и телефонов конкурентов: современные технологии цифрового маркетинга, стратегии получения клиентов и способы увеличения потока заявок для бизнеса...
22:00, 06 Апр Anthropic изучила «эмоции» ИИ и их влияние на поведение моделей Компания Anthropic опубликовала исследование Emotion Concepts and their Function in a Large Language Model, в котором рассматриваются преимущества и ...
19:00, 22 Мар 9 Критических Ошибок Трейдеров и Как Их Избежать По данным исследований американских брокеров в 2016 году заметных стабильных результатов торговли добиваются примерно 23% трейдеров. К сожалению, бол...
17:22, 28 Мар Про ремонт стиральных машин с разбором причин неисправностей, методов диагностики, самостоятельного устранения поломок, профилактического обслуживания и влияния современных технологий на долговечность бытовой техники Стиральная машина является одним из самых востребованных бытовых приборов в современном доме. Она значительно упрощает повседневную жизнь, экономит в...
20:00, 31 Мар Anthropic готовится к IPO: размещение может состояться уже осенью Компания Anthropic рассматривает возможность проведения IPO уже в октябре. Об этом сообщает Bloomberg со ссылкой на источники, знакомые с обсуждениям...
16:00, 20 Мар Данилов Никита Игоревич: Уход из госкорпорации в стартап Данилов Никита Игоревич – генеральный директор компании «FlyDrone». Данилов работал в госкорпорации по ОРВД на должности заместителя генерального дир...
12:00, 03 Апр Маты, угрозы, к черту ПДД: «Яндекс.Такси» обвинили в варварстве ради сэкономленной минуты Лихачи якобы царапают машины всем, кто мешает им на дорогах. Жалобы на таксистов в соцсетях – дело уже, на самом деле, житейское. Граждане требуют вы...
21:00, 03 Апр Закрылся потративший четверть миллиарда долларов на трактора с ИИ стартап Калифорнийский стартап Monarch Tractor, обещавший революцию в сельском хозяйстве благодаря беспилотным электрическим тракторам с ИИ, закрылся, растра...
18:00, 29 Мар Искусственный интеллект выявил новые стабильные формы углерода твёрже алмаза Группа учёных из Сианьского транспортного университета (Xi'an Jiaotong University) под руководством Чжибина Гао (Zhibin Gao) представила метод поиска...
04:00, 06 Апр Стартап Stardust Solutions привлёк рекордные $60 млн на разработку технологии «охлаждения Земли» Израильско-американский стартап Stardust Solutions объявил о привлечении $60 миллионов для разработки технологии солнечной геоинженерии, направленной...
07:00, 31 Мар ИИ выявил апноэ сна после многолетних ошибок диагностики у пациента с тяжёлыми заболеваниями Пользователь на форуме Reddit описал случай, в котором языковая модель Claude помогла выявить у 62-летнего пациента апноэ сна — состояние с остановка...
18:00, 09 Апр Anthropic обеспечила себе доступ к гигаваттам мощности Google Cloud для ускоренного обучения ИИ Компания заключила соглашение на использование TPU и облачной инфраструктуры, чтобы ускорить развитие моделей Claude и корпоративного ИИКомпания Anth...
18:00, 29 Мар Планеты управляют солнечной активностью? Новый анализ выявил закономерности экстремальных событий на Солнце Магнитные волны Россби, формирующиеся в слое между радиационной и конвективной зоной Солнца, могут быть связаны с экстремальными проявлениями солнечн...
20:00, 01 Апр Смолов про дело о драке в «Кофемании»: «Были угрозы при звонках, писали тоже – люди просто хотели нажиться на ситуации. Семье было тяжелее все это переживать, чем мне» Бывший нападающий «Краснодара» Федор Смолов рассказал, как дело о драке в «Кофемании» сказалось на его семье. В сентябре прошлого года в отношении См...
05:00, 28 Мар Как увеличить мощность MacBook Neo за 2 тысячи рублей Ютубер ETA PRIME собрал самодельную систему водяного охлаждения для MacBook Neo — самого бюджетного ноутбука Apple — и добился почти двукратного рост...
21:00, 01 Апр С МКС засняли тысячи НЛО, организованно покидающих Землю Инопланетяне бегут перед массовым вымиранием людей, считают в Сети. С борта Международной космической станции засняли, как тысячи НЛО организованно о...
21:00, 29 Мар В Ингушетии начнут раскопки циклопических построек возрастом 3,5 тысячи лет Школа каменщиков-реставраторов «Наследие» совместно с Археологическим центром им. Крупнова приступает к системному изучению древних сооружений в горн...
13:00, 14 Апр 7 лет и штраф. Чекалин выплатит неустойку стоимостью 64 тысячи марафонов Семь лет лишения свободы в колонии и многомиллионный штраф — таков приговор бывшему супругу блогера Лерчека Артему Чекалину. Суд вынес решение по дел...
15:00, 26 Мар Оптика «Ростелекома» пришла еще в 2 тысячи домохозяйств Тверской области В региональной столице оптика появилась на улицах Добролюбова и Ломоносова, а также на 1-й и 2-й Новозаводской и 2-о и 3-й Пролетарской – всего подкл...
20:00, 30 Мар Финал чемпионата по дрифту в Усть-Лабинске собрал 2,5 тысячи зрителей В чемпионате по дрифту Systême Electric® участвовали 111 пилотов из 40 городов России. Сдвоенные этапы с двухнедельными тренировками дали спортсменам...
11:00, 12 Апр Миллион к пенсии откладывая по 2–3 тысячи. Как россияне могут накопить на старость Россияне со средним доходом могут обеспечить себе дополнительный миллион рублей к пенсии, ежемесячно откладывая всего по 2–3 тысячи рублей. Эксперт о...
21:00, 03 Апр OpenAI тайно нанимает тысячи специалистов из разных профессий для обучения ChatGPT ChatGPT может программировать и обучать. Как показывают документы, теперь подрядчики помогают системе становиться всё более специализированной в узко...
05:00, 31 Мар Прибыль кондитерского бизнеса Юлии Высоцкой за год составила всего 253 тысячи рублей Кондитерский бизнес актрисы и телеведущей Юлии Высоцкой "СладкоеСоленое", который она активно рекламирует в своих соцсетях, по итогам года вновь едва...
06:00, 25 Мар Озеро как капсула времени: тайны затопленных городов майя скрывались под водой тысячи лет Представьте себе гигантскую ванну в горах, у которой нет сливного отверстия. Это озеро Атитлан в Гватемале. Его уровень гуляет вверх-вниз на десятки ...
10:00, 26 Мар В Китае начались продажи гибридного кроссовера Fulwin T9L с запасом хода 2 тысячи километров Предсерийные версии автомобиля были впервые показаны в декабре прошлого года, а "слепые" предзаказы стартовали в январе. Теперь же производитель объя...
03:00, 02 Апр Компания Apple зарегистрировала 9 новых моделей iPhone Модели могут стать частью двенадцатой линейки смартфонов. Компания Apple собирается выпустить девять новых моделей брендового смартфона, который, суд...
17:00, 13 Апр Ожидание и реальность: ТОП-10 китайских клонов известных моделей Мы составили подборку с фото. ТОП-10 китайских клонов известных моделей возглавил Geely GE, который является копией роскошного Rolls-Royce Phantom. У...
00:00, 24 Мар Лучшие смартфоны 2026: обновляемый топ флагманских моделей Флагманские смартфоны продолжают удивлять: по мнению инсайдеров, модели 2026 года будут отличаться увеличенным вплоть до 24 ГБ объемом оперативной па...
16:00, 09 Апр Компания Honda оказалась в центре скандала: под подозрением 5 моделей Коллективный иск против американского подразделения Honda, который ранее был отклонён, снова оказался в суде. Всё началось ещё в 2024 году, когда гру...
02:00, 10 Апр Samsung может расширить линейку Galaxy S27 до четырёх моделей По данным авторитетного инсайдера Ice Universe и корейского издания ETNews, мобильная стратегия Samsung на 2027 год становится более амбициозной. Пох...
17:00, 14 Апр Nissan снимет с производства 11 моделей автомобилей из-за низких продаж В результате реструктуризации, в портфеле японской компании останется 45 моделей. Сейчас их насчитывается 56, сообщает The Drive. Стратегия, рассчита...
11:00, 02 Апр Лучшие смартфоны весны 2026: топ-9 самых интересных моделей Весна только вступает в свои права, а производители уже успели представить массу весенних новинок. Среди них оказалось немало действительно интересны...
20:00, 19 Мар 7 лимитированных смартфонов марта 2026 года: подборка моделей В 2026 году интерес к смартфонам ограниченных серий заметно вырос: такие устройства сочетают современные технологии, необычный дизайн и уникальную ай...
04:00, 20 Мар Сумки Dakine: ключевые особенности изделий, обзор востребованных моделей Компания Dakine, известная в индустрии спортивного снаряжения, предлагает современным потребителям богатый выбор продукции. В рюкзаках и сумках этого...
17:00, 25 Мар Эти топ-5 моделей доказали, что надежность и удовольствие от вождения всё еще важнее маркетинговых уловок В 2026 году рынок кроссоверов напоминает поле битвы, где выживают только те, у кого под капотом скрывается надежный мотор, а не просто набор электрон...
12:00, 27 Мар Apple Watch Series 12 сохранит дизайн прошлых моделей без изменений Apple вновь готовит к выпуску очередную модель Apple Watch без заметных изменений во внешнем виде и функционале. В этом году умные часы Series 12 не ...
11:00, 16 Апр Протестировано более ста моделей: самые распространённые проблемы современных смартфонов в России Тестирование в лаборатории «МегаФона» проводится в сетях 3G, LTE и 5GОператор «МегаФон» протестировал более ста моделей телефонов разных брендов, пре...
18:00, 28 Мар Названы самые доступные семейные минивэны в России: список из пяти моделей Хотя семиместные кроссоверы набирают популярность, классические минивэны не сдают позиций – многие ценят их за простор и удобство. Эксперты изучили т...
07:00, 31 Мар SlideFormer: новый подход к тонкой настройке больших языковых моделей на одном GPU Тонкая настройка больших языковых моделей (LLM) становится всё более важной для адаптации к конкретным задачам, но её высокая требовательность к памя...
01:00, 27 Мар Энн Хэтэуэй выступила против "худых" моделей на съёмках сиквела "Дьявол носит Prada" В преддверии выхода второй части фильма "Дьявол носит Prada" Мэрил Стрип поговорила с репортёром Harper’s Bazaar и рассказала, как её коллега по съём...
15:00, 07 Апр WolfWavesFind 2026 PRO V2 — индикатор Волн Вульфа для MetaTrader 4 и MetaTrader 5 с навигатором моделей WolfWavesFind 2026 PRO V2 — обновлённая версия профессионального индикатора волн Вульфа для MetaTrader 4 и MetaTrader 5. Главное отличие от предыдуще...
05:00, 10 Апр iPhone 18e, iPhone 18 и iPhone Air 2: когда выйдут и основные отличия от предыдущих моделей Apple разделит линейку iPhone на два запуска в год — флагманские Pro-модели вместе с самым дорогим в истории iPhone Ultra останутся осенними, а базов...