HBR предупредил о деградации знаний из-за ИИ в компаниях

Harvard Business Review зафиксировал побочный эффект массового внедрения генеративного ИИ в компаниях и предупреждает о деградации знаний из-за ИИ в компаниях. Вместо обещанного ускорения части бизнес-процессов организации получают поток слабых материалов, рост затрат на проверку и постепенное размывание внутренних знаний. Речь идёт не об отдельных ошибках моделей, а о системной нагрузке на сотрудников, которые вынуждены фильтровать и перепроверять машинный

результат. В материале HBR этот эффект описан через термин workslop. Под ним понимают поток сгенерированного ИИ контента, который формально выглядит как рабочий результат, но требует дополнительной ручной проверки и исправлений. На практике цепочка выглядит так: сотрудник генерирует текст,

сводку или проект решения, в материале остаются ошибки и «галлюцинации», коллеги тратят время на верификацию, доверие к данным падает, а ценность корпоративной базы знаний снижается. Издание пишет, что проблема усиливается, когда генеративные модели становятся обязательным слоем почти во всех процессах. Тогда ИИ перестаёт быть точечным инструментом и начинает влиять на то, как компания хранит, обновляет и

передаёт знания между командами. Если ошибочные или шаблонные ответы многократно попадают во внутренние документы, они закрепляются в процедурах и начинают участвовать в принятии решений уже как «нормальные» данные. Отдельный эффект связан с навыками сотрудников. HBR отмечает, что при постоянной передаче черновой работы моделям люди реже проверяют исходные предпосылки, хуже удерживают контекст и постепенно теряют часть

прикладной экспертизы. Для бизнеса это означает двойной расход: сначала компания платит за автоматизацию, затем за слой контроля над автоматизацией. Деградация знаний из-за ИИ в компаниях Тревога выглядит логичной на фоне того, как быстро генеративный ИИ вошёл в корпоративный контур. По данным

McKinsey, ещё в 2024 году 65% опрошенных компаний заявляли, что уже регулярно используют генеративный ИИ хотя бы в одной бизнес-функции. Темп высокий, а правила применения часто писались уже после запуска пилотов. Обычно это плохой момент для аккуратной работы со знаниями. При этом ранние исследования не давали однозначного

ответа о чистом росте производительности. Например, в известном исследовании NBER по колл-центрам модели действительно помогали менее опытным сотрудникам и повышали их выпуск. Однако этот результат касался узкого сценария с хорошо измеряемой задачей, а не всей офисной работы сразу. Переносить такой эффект на документооборот, аналитику, найм и внутренние коммуникации компании начали

заметно быстрее, чем успели проверить ограничения. У крупных платформенных поставщиков был другой стимул. Microsoft, Google, OpenAI, Salesforce и другие продавали бизнесу не отдельную функцию, а идею универсального «второго пилота» для большинства офисных задач. Отсюда и риск: чем шире охват, тем больше в систему

попадает материалов, которые выглядят убедительно, но не проходят даже базовую фактологическую проверку. В редакционных тестах похожих инструментов эта проблема проявляется регулярно: чем увереннее тон ответа, тем дороже обходится его ручная проверка. Схожая логика уже появлялась в других сегментах. Поисковые системы с ИИ-сводками несколько раз показывали ошибки в ответах на простые

запросы, а разработчики программного кода жаловались на рост объёма правок после автогенерации типовых фрагментов. Для внутренней корпоративной среды такой сбой чувствительнее, потому что ошибка не исчезает после одного просмотра, а может остаться в шаблоне, инструкции или базе

знаний. HBR отдельно выделяет влияние на найм и коммуникации внутри компаний. Автоматизированные этапы отбора и подготовки материалов искажают ожидания обеих сторон: кандидат получает шаблонную обратную связь, работодатель видит «причесанное» резюме, а реальный уровень

совпадения приходится устанавливать вручную уже позже. Чем больше посредников в цепочке общения, тем меньше сигнал и тем больше шума. В качестве рабочего выхода из этой ситуации издание предлагает не отказываться от генеративного ИИ, а жёстче ограничивать его применение. Лучше всего модели работают там, где нужна быстрая заготовка, суммаризация или помощь в поиске вариантов, а итоговый результат остаётся у человека или у специализированной

системы, обученной на проверенных внутренних данных. черновики писем и документов суммаризация длинных материалов поиск типовых формулировок внутренние базы знаний с ограниченным набором источников Наименее предсказуемым остаётся сценарий, когда публичная большая языковая модель подключается ко всем этапам сразу и начинает порождать вторичный контент поверх другого вторичного контента. В такой схеме компания быстрее получает видимость активности, чем реальный

результат. Именно эту «имитацию бурной деятельности» HBR считает одной из главных управленческих ловушек текущего этапа. Рынок вряд ли откажется от корпоративного ИИ. По оценкам Bloomberg Intelligence, мировая выручка сегмента генеративного ИИ к началу следующего десятилетия может превысить $1 трлн,

и значительная часть этого спроса придётся на бизнес-сервисы. Поэтому следующим этапом для компаний, вероятно, станет не расширение охвата любой ценой, а пересборка правил: где модель экономит время, а где создаёт новый отдел по исправлению её ошибок.

Сообщает itzine.ru

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• КОСМИЧЕСКИЕ ХАРАКТЕРЫ И ЧЕЛОВЕЧЕСКИЕ КОНФЛИКТЫ: ТРИ ЗОДИАКАЛЬНЫХ ТИПАЖА, КОТОРЫЕ ЧАСТО СЧИТАЮТСЯ СЛОЖНЫМИ В ОБЩЕНИИ, И ГЛУБОКОЕ ПОГРУЖЕНИЕ В АСТРОЛОГИЮ, ПСИХОЛОГИЮ ЛИЧНОСТИ И МЕЖЛИЧНОСТНЫЕ СЦЕНАРИИ...
• ГЛОБАЛЬНАЯ РЕВОЛЮЦИЯ СВЯЗИ: КАК eSIM С ИНТЕРНЕТОМ ПЕРЕОПРЕДЕЛЯЕТ ПУТЕШЕСТВИЯ, БИЗНЕС-МОБИЛЬНОСТЬ И ЦИФРОВУЮ ЭКОНОМИКУ XXI ВЕКА...
• Глубинные консалтинговые услуги и обучение ПОД/ФТ: стратегия комплаенса, финансовая безопасность, риск-менеджмент и развитие корпоративной культуры противодействия отмыванию доходов и финансированию терроризма...
• Современные вакуумные насосы: технологии создания глубокого разрежения, промышленное применение, инженерные решения и перспективы развития вакуумных систем будущего...
• Мощное продвижение Telegram-страниц и каналов как фундамент цифрового роста: стратегии развития, аудитория, контент, алгоритмы и долгосрочная монетизация...
• Искусство выбора цветов на день рождения: как подобрать идеальный букет, подчеркнуть индивидуальность именинника, создать яркие эмоции и превратить обычный подарок в незабываемый знак внимания...
• Основное преимущество свайного основания заключается в том, что оно позволяет строить здания на нестабильных грунтах...
• Комплексный подход, объединяющий современные технологии, государственное регулирование, экологическое образование и ответственность общества, способен обеспечить эффективное и безопасное обращение с отходами в условиях стремительно растущих городов и пром...
• Ультраформер (Ultraformer) и ультразвуковой SMAS-лифтинг: глубокий анализ технологии, механизмов омоложения, показаний, результатов и роли в современной эстетической медицине с расширенным взглядом на антивозрастные методики и уход за кожей...
• Инновационный RF-лифтинг нового поколения: как Volnewmer меняет представление об омоложении кожи лица и тела, объединяя технологии, безопасность и долгосрочный эстетический результат...
• Современные финансовые решения для краткосрочных ситуаций: где быстро взять деньги в долг на несколько дней, какие преимущества имеют краткосрочные займы и как грамотно использовать такие финансовые инструменты...
• Натуральный камень нового поколения: гранит и мрамор от современного завода гранитных изделий — безупречное качество, долговечность материалов и выгодные условия покупки для строительства, архитектуры и интерьерного дизайна...
• Рулонные шторы нового поколения: функциональная защита от солнца, стильное оформление окон и современные технологии управления освещением в интерьере дома, квартиры и офиса...
• Полная генеральная уборка домов после ремонта: как проводится профессиональная очистка помещений, удаляется строительная пыль и подготавливается жилье к комфортной и безопасной эксплуатации...
• Современный сервис «трезвый водитель»: как работает услуга доставки клиента и его автомобиля по нужному адресу, почему она становится частью культуры безопасного вождения и какие преимущества получает водитель...
• Перехват лидов с сайтов и телефонов конкурентов: современные технологии цифрового маркетинга, стратегии получения клиентов и способы увеличения потока заявок для бизнеса...
• Интеллектуальная трансформация компаний: как ИИ-агенты формируют новую экономику автоматизации, управления и цифровых решений для бизнеса...
• LiFePO4 аккумуляторы нового поколения со сроком эксплуатации 13–15 лет: долговечные технологии хранения энергии, преимущества литий-железо-фосфатных батарей, безопасность, экономическая эффективность и перспективы развития энергетических систем будущего...
• Виртуальный турецкий номер как инструмент глобальной коммуникации: возможности современных технологий связи, преимущества для бизнеса, интернет-сервисов, безопасности аккаунтов и международного взаимодействия...
• Индивидуальная спортивная форма под заказ с логотипом: как персонализированная экипировка формирует командный стиль, усиливает бренд, повышает мотивацию спортсменов и становится мощным инструментом спортивного маркетинга...