Доверять нельзя проверить: как бизнесу работать с искусственным интеллектом уже сегодня

Экосистема «Хаб Событий» продолжает развивать новые форматы профессионального общения. Одним из таких проектов стал форум «Время цифры» — экспериментальный проект экосистемы и «первый» в России тихий форум, где все выступления проходят одновременно в едином пространстве, а участники слушают выбранных спикеров через беспроводные наушники. Такой формат позволяет свободно переключаться между выступлениями, выбирать наиболее актуальные темы и делает профессиональный диалог более гибким и насыщенным.

Именно на площадке форума «Время цифры» обсуждаются не только возможности цифровой трансформации, но и ее обратная сторона — кибербезопасность, искусственный интеллект, управление рисками и влияние новых технологий на бизнес. Одним из самых ярких выступлений программы стал доклад Андрея Масаловича («КиберДед») — специалиста по кибербезопасности, конкурентной разведке и информационной безопасности. Вместо привычного разговора о преимуществах искусственного интеллекта эксперт предложил взглянуть на него с другой стороны: почему ИИ нельзя воспринимать как безошибочного помощника, какие угрозы уже становятся частью повседневной реальности и что необходимо сделать бизнесу, чтобы использовать технологии безопасно.

Сегодня ИИ воспринимается как универсальный помощник: он пишет тексты, анализирует документы, помогает в разработке, строит прогнозы и автоматизирует процессы. Однако одна из главных мыслей выступления Андрея Масаловича заключается в том, что современные модели не понимают информацию так, как понимает ее человек.

Нейросеть может уверенно выдавать недостоверные факты, ссылаться на несуществующие исследования или предлагать решения, которые выглядят логично, но не имеют ничего общего с реальностью. Такие ошибки принято называть «галлюцинациями», однако для бизнеса последствия подобных «галлюцинаций» могут быть вполне реальными.

Поэтому доверять ответам искусственного интеллекта без проверки сегодня нельзя. Любой результат требует экспертной оценки и человеческого контроля.

Сегодня искусственный интеллект стал обязательным пунктом практически любой стратегии цифровой трансформации. Многие компании внедряют его в надежде быстро сократить расходы, увеличить производительность или автоматизировать процессы.

Однако, как отметил Андрей Масалович, технология сама по себе не гарантирует успеха. Искусственный интеллект эффективен только тогда, когда перед ним поставлена конкретная задача, используются качественные данные, а результаты оценивает человек.

Главная ошибка бизнеса — ожидание, что ИИ самостоятельно решит накопившиеся проблемы компании. На практике он лишь усиливает существующие процессы — как сильные, так и слабые.

Развитие искусственного интеллекта открывает возможности не только для бизнеса, но и для злоумышленников. Автоматизация кибератак, дипфейки, фишинговые кампании, информационные манипуляции — все это становится частью современной цифровой среды.

По мнению эксперта, опасность представляет не сама технология, а отсутствие механизмов контроля за ее использованием. Именно поэтому вопрос цифровой безопасности сегодня становится не менее важным, чем вопрос цифровой эффективности.

Один из центральных вопросов выступления — возможно ли вообще построить доверенную среду при работе с искусственным интеллектом.

Полностью исключить риски сегодня невозможно. Однако существенно снизить их вполне реально. Для этого необходимо использовать проверенные данные, тестировать модели, контролировать их работу, применять инструменты верификации и оставлять принятие ключевых решений за человеком.

Искусственный интеллект должен быть помощником, а не единственным источником решений.

Несмотря на стремительное развитие технологий, главным конкурентным преимуществом по-прежнему остается человек.

Компании будущего будут выигрывать не количеством внедренных ИИ-сервисов, а качеством их использования. Победят те, кто научится сочетать возможности искусственного интеллекта с человеческой экспертизой, критическим мышлением и ответственностью за принимаемые решения.

Именно поэтому сегодня важно не просто осваивать новые технологии, а учиться использовать их осознанно.

Выступление Андрея Масаловича на форуме «Время цифры» стало началом большой профессиональной дискуссии о будущем искусственного интеллекта, цифровой безопасности и зрелом подходе к внедрению новых технологий.

Продолжение этого разговора состоится уже 30 июля на первой встрече закрытой серии бизнес-бранчей «КиберДед за бранчем», которую экосистема «Хаб Событий» проводит совместно с Андреем Масаловичем. В камерном формате участники смогут обсудить реальные кейсы, задать вопросы эксперту и получить практические рекомендации по безопасному использованию искусственного интеллекта в бизнесе.

Первая встреча пройдет под названием «Кофе, круассаны и коллапс ИИ» и будет посвящена тому, как использовать ИИ эффективно, не теряя контроль над технологиями и собственными решениями.

Подробнее о программе закрытой серии бизнес-бранчей и регистрация — на странице проекта: