Новые цифровые технологии в жизнь – это хорошо, это и звучит прекрасно, однако, любые новации сегодня это обоюдоострое оружие. Технологии могут помогать, а могут и вредить. Больше всего примеров на эту тему, видимо, имеется сегодня по части искусственного интеллекта.

Как ИИ себя поведет в будущем – после своего массового внедрения? К чему приведут и каковы будут последствия? Какие именно решения в сфере управления ИИ нам будет подсказывать? Как будут решены вопросы информационной безопасности (ИБ)? И так далее. Обоснованных ответов и прогнозов маловато – зато есть цифры у энтузиастов: к 2028 году объем мирового рынка ИИ (с лидерами в лице США и КНР) вырастет до $500 млрд.

1. Процесс с ИИ, что называется, «пошел» во всем мире. Восторги возможностями ИИ практически единодушны – голосов экспертов-скептиков почти не слышно.

Кроме ИИ, конечно, есть и другие заметные приложения из сферы высоких технологий – они и более понятны и более легко прогнозируемы. Но, увы, даже и в отношении них с прогнозами не всегда получается гладко. Свежий недавний пример – ЦБ выпустил в условиях санкционных ограничений новые купюры в 5000 рублей – вроде, и нарядно, и тоже хорошо. Но ЦБ не предусмотрел до конца последствия. Все ли банкоматные сети успеют перестроиться? Перенастроиться и ввести процедуры получения новых прошивок для приема купюр «не вывозя за рубеж» эти новые купюры РФ – как того требует ЦБ в одной из свежих инструкций? Практика сразу показала, что далеко не все справились и успели. Новые пятитысячные купюры многие банкоматы не смогли сразу принимать (называют цифру в 25%). Также не смогли принимать еще и «сотенные» купюры, которые выпустили в числе «новых». Однако, отмечу ситуацию со сторублёвками все же спасли наши коллекционеры, которые по сути дела «изъяли» новейшие сторублёвки из обихода – собрав их уже для своих коллекций. «Огрехи» в планировании и технической проработке проекта привели к нервозности в обществе, многочисленным обсуждениям в СМИ, определённой доли недовольства граждан.

Что важно отметить – всю эту будущую проблему «прошивок» эксперты обозначили и предупреждали о ней ЦБ еще 3 года назад.

2. Если возвратиться к теме искусственного интеллекта – то здесь последствия могут быть даже более негативные, чем сбои в приеме новых купюр. Что именно тиражирует сегодня в своих «советах» искусственный интеллект? Какие предыдущие решения он выбирает за основу? Чем будет руководствоваться что-то нам подсказывая? Какой идеологии придерживаться? И так далее. Все эти вопросы требуют ответа. Я уже не говорю о чисто технических деталях – с какой скоростью подсказывать? Какие объёмы данных использовать и во что всё происходящее выльется в итоге казне?

Разговоров на тему ИИ действительно много – причем, среди чиновников всех рангов принято хвалить системы искусственного интеллекта. Какой именно имеется в виду ИИ – обычно не уточняется. Документов напринимали много и еще и самых объёмных – программы, концепции. Все масштабно и в положительном ключе. Но практически никто не взял на себя труд, оценить риски от всего происходящего. Спрогнозировать последствия, которые могут оказаться нежелательными в условиях недоработки проблем ИБ.

К примеру, ответ на тему – появится ли новая уязвимость в программе, из-за того, что один и тот же набор кодов тиражируется многократно системой ИИ – ответ не могут дать даже сами разработчики подобных сервисов. Напомню еще, что и мошенники в стране не перевелись и они также не гнушаются воспользоваться новейшими технологиями, включая дипфейки. По этим причинам происходящее может приводить к нежелательным последствиям.

3. И сроки – они крайне важны, нам ведь хочется всего быстрее. Но если речь идет о внедрении ИИ, то здесь я уверен: торопиться с инновационными технологиями никогда не стоит – и в первую очередь, когда идёт речь о решениях государственного масштаба. Рискуя навлечь на себя гнев инноваторов, выражу уверенность, что государство никогда не должно рисковать – именно в системах управления. Использовать новое необходимо, новое – но «не слишком» новое и по всем параметрам лучше идти на полшага сзади и правильнее самим учиться на ошибках передовиков внедрения инноваций. Что-то мне подсказывает, что ошибок и случаев неудачных внедрений ИИ будет много.

4. В заключение еще раз – об ИИ уже более прозаически. ИИ это не более чем общее название программного продукта из области АСУ. ИИ обрабатывает входные данные и дает реакции на них. Если данные искажены или неполны, результаты от ИИ соответственно будут тоже недостоверны и даже ошибочны. А дальнейшие последствия еще печальнее – они зависят от масштаба задачи. Неудачное внедрение ИИ сможет привести к коллапсу системы информационной поддержки и органов государственной власти, и бизнеса. Все произойдет не потому, что ИИ плохой как перспектива, а потому что для внедрения технологии, прежде всего, должна быть создана и проверена система информационной безопасности. Это ключевое. Есть ли понимание сложности ситуации со стороны структур, активно пытающихся продвигать технологии ИИ и «воспринимать» в будущем их советы? Мы об этом скоро узнаем.