Придет ли кибермозг на смену человеку?

Участники "Форума будущего" в этом не уверены.

Тема искусственного интеллекта в последние годы одна из самых топовых. Воображение рисует картины, в которых все сферы жизни, от создания фильмов до управления сложными хозяйственными процессами, осуществляются всемогущим кибермозгом, оставив за человеком роль потребителя услуг. Одновременно звучат и апокалиптические прогнозы, напоминающие сценарий из блокбастера "Терминатор", в котором ИИ захватывает власть над миром. Реальность же, как всегда, намного прозаичнее.

Как пояснил на полях "Форума будущего" генеральный директор Уральского центра систем безопасности Валентин Богданов, сегодня искусственный интеллект действительно используется для решения многих задач, в том числе в сферах маркетинга, написания текстов, генерации графических изображений, при анализе больших объемов информации. Но пока artificial intelligence – не самостоятельная сила, а всего лишь эмуляция некоторых действий, которые может делать человек. Это мощный инструмент для сбора, агрегации и компоновки данных, но не самостоятельный разум, способный к принятию высокоуровневых решений.

Валентин Богданов

"Сейчас искусственный интеллект, безусловно, переживает стадию хайпа у нас, – отметил в беседе с корреспондентом "Уралинформбюро" директор департамента группы компаний "Астра" по работе с технологическими партнерами Кирилл Синьков. – Очень сложно переоценить его абсолютные навыки, и языковые модели еще пока недообучены".

Сегодня даже для написания кода или создания дизайна искусственному интеллекту необходим живой наставник, одна из задач которого – перепроверять результат работы кибермозга, напомнил руководитель управления "Ростелекома" по цифровым регионам на Урале Александр Золотовский. При этом, по словам заместителя министра цифрового развития, связи и массовых коммуникаций РФ Александра Шойтова, ИИ уже приносит большой экономический эффект.

"Это одна из самых значимых и перспективных технологий в настоящее время. Но любая новая технология – это не только новые возможности, но и новые риски. Один из них – то, что сам искусственный интеллект будет использоваться недобросовестными гражданами, мошенниками в компьютерных атаках. И второе направление, связанное с рисками, – это его использование в каких-то критических сферах без необходимых мер обеспечения информационной безопасности", – предостерег замглавы Минцифры.

Кирилл Синьков

Тема компьютерных атак была затронута на форуме неслучайно. Как рассказал Кирилл Синьков, злоумышленники всё чаще используют технологии ИИ для взлома корпоративных серверов через электронную почту. С традиционным фишингом сегодня более-менее научились бороться, ссылки в письмах, присланных с незнакомых адресов, уже никто не открывает. А как быть, если сотруднику пишет директор компании – точнее, двойник, сгенерированный искусственным интеллектом с помощью технологий дипфейка? Чаще всего такие письма бездумно вскрываются, некоторые даже рассылают их родственникам – например, если в письме содержится информация о корпоративных бонусах. Только вместо бонусов там спрятан вирус, иногда – спящий, способный заразить систему не сразу, а спустя какое-то время.

"Безусловно, фишинговые угрозы всё более и более эволюционируют, и не секрет, что большинство из них сейчас разрабатываются как раз искусственным интеллектом, который подстраивается под внутреннюю культуру компании, под то, какие задачи компания выполняет, – сказал Синьков корреспонденту агентства. – Очень много информации о любой компании есть в открытых источниках. Их можно найти, языковую модель можно этому обучить и, исходя из этого, запрограммировать определенную текстовку".

"Количество DDoS-атак с использованием искусственного интеллекта растет с каждым днем, и оно будет увеличиваться", – уверен Александр Золотовский.

Пока что ИИ не умеет создавать вирусы без помощи человека. Самостоятельно защищать от них – тоже

По мнению Синькова, оптимальный способ противостоять таким атакам – использовать весь арсенал средств защиты информации, которые должны по умолчанию быть в инфраструктуре любой крупной корпорации. Это, в первую очередь, контроль целостности и разграничения доступа, использование "песочниц", в которые система безопасности автоматически помещает всю подозрительную корреспонденцию, и самое главное – цифровая гигиена сотрудников, особенно тех, кто работает на объектах "ключевой критической информационной структуры".

А способен ли искусственный интеллект полноценно защищать системы от взлома, заменив человека на этом поприще? На данный момент – нет, уверены участники дискуссии. В лучшем случае обученный ИИ может обнаружить в системе отклонение или аномалию, но самостоятельно оценить, насколько они критичны для бизнеса, он не способен. Развитие электронного стража до уровня, когда он сможет без помощи человека определять и устранять такие угрозы, – задача не следующего года и даже не следующего десятилетия, уверен Валентин Богданов.

Как считает известный блогер Wylsacom (Валентин Петухов), гораздо более радужные перспективы – у самого популярного порождения искусственного интеллекта – нейросетей. Это слово большинство россиян ассоциируют с сетевыми картинками или видеороликами, но технология активно применяется и в бытовых гаджетах. Речь идет о нейробраслетах, умеющих передавать сообщения, нейроочках со встроенным дисплеем, умных наушниках. В будущем эти устройства могут заменить привычные смартфоны, уверен эксперт.

"Большой скачок произойдет, когда нейросеть получит память, – заявил Wylsacom во время лекции на форуме, собравшей в небольшом зале несколько сотен слушателей. – Когда она будет знать, кто вы, что вы, что вы любите, что вы не любите, что было в прошлом году. Это большие вычислительные мощности, которые, к сожалению, требуют огромных энергозатрат во всех смыслах – но я думаю, что это то, к чему мы в целом движемся, что произойдет в ближайшем будущем однозначно. Вот где-то рядом ездят беспилотные автомобили – а вы знали, что существует умная покрышка? Когда вы едете по дороге и влетаете в ямку, покрышка передает, соответственно, на сервер информацию о том, что тут какая-то яма неприятная. И следующая машина уже знает о том, что здесь неровности".

Евгений СУСОРОВ

Читайте нас в Telegram.