Новости. Обзор СМИ  Рубрикатор поиска + личные списки

Технологии на марше: искусственный интеллект ждет более эффективного применения в строительстве

В конце октября в Москве состоялся ежегодный форум «Цифровой девелопмент-24», на котором эксперты обсудили перспективные и прорывные технологии, проблемы их регулирования и процесс реализации, а также новые тенденции в экономике и механике девелоперских проектов.

Председатель Комитета Национального объединения строителей (НОСТРОЙ) по цифровой трансформации строительной отрасли Ирина Кузьма подробно рассказала о системе мониторинга применения технологии информационного моделирования (ТИМ) в строительстве. В частности, она представила информацию по динамике использования ТИМ в госконтрактах на строительство и напомнила, что в январе 2022 года 90% договоров в целом по стране не содержали даже упоминания ТИМ, но за счет последовательной и систематической работы по информированию застройщиков и девелоперов, которую проводило нацобъединение вместе с партнерами при поддержке Минстроя России, ситуацию удалось изменить в лучшую сторону.

«В настоящий момент 51% контрактов на строительство имеют требования применения ТИМ», — уточнила Ирина Кузьма. Однако, по ее словам, все еще сохраняется и обратная тенденция — 33% договоров на строительство объектов за счет бюджетных средств требования по ТИМ не содержат. Объем госконтрактов, в которых требования по ТИМ не определены, составляет 16%. Спикер напомнила, что в настоящее время НОСТРОЙ уже начал передавать результаты ТИМ-мониторинга контрактов, заключаемых в рамках действия 44-ФЗ и подпадающих под действие постановления правительства от 05.03.2021 №331, в информационную систему управления проектами (ИСУП).

Глава Комитета НОСТРОЙ по цифровой трансформации строительной отрасли подробно рассказала о взаимодействии электронных сервисов — Единой информационной платформы (ЕИП) НОСТРОЙ и информационных систем Минстроя России и Госстройнадзора. Контролирующие органы благодаря этому имеют доступ к сведениям о членах СРО и специалистах Национального реестра специалистов в области строительства (НРС) НОСТРОЙ, в отношении которых проводится проверка, а также к сведениям о выявленных нарушениях. Помимо этого, можно выбрать подрядную организацию на основании рейтинга строительных компаний, проверить наличие права выполнения строительных работ на всех этапах, а также правомерность подписания исполнительной документации специалистами НРС.

Советник министра цифрового развития, связи и массовых коммуникаций РФ, заместитель генерального директора Renga Software Максим Нечипоренко выделил одно из ключевых препятствий, наряду с остальными снижающее темпы цифровизации строительства. Это нехватка квалифицированных специалистов, владеющих необходимыми компетенциями и навыками для эффективного освоения передовых технологий. Спикер указал на необходимость развития комплексных подходов при подготовке кадров, причем начинать следует с общего образования: он предложил внедрять в школах профильные ТИМ-классы в рамках дополнительного обучения и ранней профориентации.

Руководитель комитета по информационному моделированию градостроительной деятельности АРПП «Отечественный софт», исполнительный директор компании «СиСофт Разработка» Михаил Бочаров напомнил о нормативно-правовом регулировании ТИМ в строительстве и сделал акцент на ожиданиях представителей отрасли от информационного моделирования. В частности, отметил он, ТИМ позволит составить объективную смету, обосновать затраты, исключить необоснованные изменения сметной стоимости и выход за ее пределы, снизить вероятность срыва сроков, повысить прозрачность процессов строительства, а в дальнейшем оптимизировать затраты на всех этапах жизненного цикла объекта.

Президент Ассоциации организаций по развитию технологий информационного моделирования в строительстве и ЖКХ Александра Никульцева, говоря о поддержке отечественных вендоров, подчеркнула, что при грамотном использовании сводов правил и стандартов специалисты, работающие с ТИМ, должны обладать необходимыми знаниями для решения экономических задач, однако в ряде строительных компаний наблюдается обратная ситуация. В целях повышения эффективности работы в области ТИМ Ассоциация с рядом отечественных вузов начала разработку образовательных программ для высших управленческих кадров компаний, которым необходимо понимать, что они должны требовать от своих IT-специалистов в первую очередь.

Руководитель Ассоциации «Р1», эксперт по внедрению искусственного интеллекта (ИИ) в бизнес Ирэн Парсамян рассказала про AI-инкубатор — набор инструментов на основе ИИ для интеграции в девелоперские проекты и провела мастер-класс по автоматизации отчетности для собственников многоквартирных домов через нейросети, формированию пресс-релизов из аналитических данных и ведению социальных сетей. По ее словам, внедрение ИИ в деятельность управляющих компаний открывает возможности для повышения эффективности, улучшения качества обслуживания и снижения затрат.

Совсем недавно у нейросети GPT появился новый функционал — создание собственных кастомных GPTs-ов. С этим инструментом уже гораздо проще настраивать ChatGPT, чтобы он без лишних вопросов решал поставленные задачи. При этом создавать этот функционал могут люди вообще без технического бэкграунда. «Эти технологии помогают не только решать текущие задачи, но и предугадывать будущие потребности, делая жизнь в жилом комплексе комфортнее и безопаснее. Такая работа осуществляется не только в ассоциации. Мы уже почти год проводим ежемесячно эфиры по искусственному интеллекту, решаем разные задачи сферы управления недвижимостью. Помимо этого, я, конечно, и в свои бизнес-процессы добавляю этот функционал и тем самым ускоряю, оптимизирую процессы», — пояснила Ирэн Парсамян корреспонденту «Стройгазеты», отметив, что сегодня искусственный интеллект, конечно же, пока не заменяет человека, но помогает и значительно ускоряет работу.

«Если мы просто пользуемся обычной версией чата GPT, то он может иногда ошибаться и писать не так, как мы хотим. Но если мы создаем определенную конфигурацию — сейчас это называется GPTs, а на русском мы его называем «ассистент», — мы можем заложить в него и стиль и наше отношение к этой отрасли, описательные характеристики и тем самым научить его работать так, как мы хотим», — указала Ирэн Парсамян.

По ее словам, эта продвинутая технология позволяет адаптировать работу ИИ для любой сферы деятельности. «Мы ее опробовали и на SMМщиках, и на юристах. Ее в любой отрасли можно применить. Для управляющих компаний она очень эффективна. 20% членов Ассоциации «Р1» используют GPT для отчетов, для написания постов в соцсетях, для контроля за сотрудниками», — подчеркнула она.

В качестве примера на сессии был разобран реальный кейс PR-директора компании БЕСТ-Новострой и bnMAP.pro (цифровой системы анализа рынка новостроек) Елены Гогоберидзе. Ирэн Парсамян указала, что для того, чтобы ИИ начал делать то, что нужно вам, а не выдавал ложь за действительность, прежде всего надо поставить ему конкретную задачу и задать нужный контекст.

«Мы не будем рассматривать просто переписки с чатом GPT, мы будем рассматривать более серьезную вещь — это GPTs и их создание. Я пообщалась с Еленой и создала ассистента. Ассистент — это тот механизм, в который мы закладываем характеристику того, что мы хотим, и заранее проговариваем определенные правила. Тогда в чате нам не нужно создавать кучу уточнений, добавлений, и он уже подтягивает те знания, которые в него заложили, а мы просто ставим ему задачу», — пояснила Ирэн Парсамян.

Описание промта (задачи) следующее: «Ты — специалист по маркетингу в девелоперской компании. Ты ведешь канал «Прожектор новостроек» — аналитику bnМАР. рrо. Описание канала «Держите на пульсе продажи новостроек. Точный анализ. Проверенные данные». Раньше информацию анализировал и оформлял человек, теперь это будешь делать ты. В твою базу загружены «примеры» пресс-релизов, которые раньше писал человек. Он читал и анализировал отчеты и после писал пресс-релизы. При написании пресс-релизов сохрани стиль и формат письма. Я буду направлять тебе отчет, а ты будешь анализировать и писать пресс-релиз. Анализируй отчет два раза от первого до последнего знака и элемента и не пропускай ни единого знака и элемента».

Так Ирэн Парсамян указала ИИ поле для деятельности — теперь он специалист по маркетингу и ведущий канала «Прожектор новостроек», в котором публикуется аналитика bnMAP.pro, — и попросила, чтобы он готовил пресс-релизы. Дальше в систему были загружены примеры трех пресс-релизов и этот конфигуратор сохранен. Таким образом был создан ассистент с условным названием «AI-инкубатор SMM». Теперь ставится задача — подготовить пресс-релиз по предоставленной статистике.

И это совсем непростая история. «Данные, которые мы предоставляем, — это аналитические данные B2B. Данные к нам приходят обычно в Excel огромным массивом. К примеру, это может быть экспозиция по 16 городам-миллионникам с учетом проектного объема, стоимости квадратного метра по каждому проекту и так далее. То есть там параметров, наверное, 30», — прокомментировала Елена Гогоберидзе.

В свою очередь, Ирэн Парсамян сообщила, что еще больше усложнит работу для ИИ: «Я загружу не просто Excel-файл, а ломаную информацию, данные из таблицы в виде текста».

Через несколько минут работы на экране появился текст релиза, который трудно было отличить от тех, что готовятся усилиями пресс-служб соответствующих компаний.

Елена Гогоберидзе отметила, что получившийся результат вполне хорош: «Что касается именно переложения цифр в текст, это очень здорово и полезно, особенно если у вас большие массивы данных, которые нужно перерабатывать. Если мы говорим именно о предоставлении информации в качестве текста, который нужен для рассылки или чтобы дать текст на сайте, — это очень удобно и применимо».

Что касается итоговых выводов, то здесь GPT пока еще не настолько умный и опытный, как человек. «GPT сделал вывод, что рост цен на новостройки связан с устойчивым развитием города, но на самом деле это не так: рост цен может быть связан с уменьшением предложения, с трансформацией структуры рынка, с изменением условий предоставления ипотеки и другими причинами», — подчеркнула эксперт.

По словам Елены Гогоберидзе, GPT можно использовать как рабочий инструмент для последующей переработки, для основы текста, который можно впоследствии использовать для СМИ или Telegram-канала, но он не обладает достаточными компетенциями и креативом, чтобы создать информационный повод.

Ирэн Парсамян уверена, что если ИИ придоставить больше информации и попросить ответить на конкретные вопросы, то он обязательно даст необходимые ответы. По ее словам, очень важно подробно и четко формулировать инструкцию и задачу для искусственного интеллекта, а затем проанализировать полученный результат и при необходимости попросить нейросеть его скорректировать.

Авторы: Сергей ЗЕЛЕНЦОВ

Номер публикации: №42 01.11.2024

Россия. ЦФО > Недвижимость, строительство. СМИ, ИТ. Госбюджет, налоги, цены > stroygaz.ru, 1 ноября 2024 > № 4729627

В Крыму появился первый робот-виноградарь

Юлия Крымова (Севастополь)

В Крыму началось тестирование специального программного обеспечения для виноделов и российского робота-виноградаря.

На трех винодельнях под Севастополем в виде эксперимента внедрили систему управления, разработанную в севастопольском ИТ-парке. Это ERP-система (в переводе - планирование ресурсов предприятия), которая представляет собой программный комплекс для управления всеми процессами в виноделии, от посадки лозы до розлива вина по бутылкам.

- Мы поговорили с виноделами и поняли, что такой продукт очень актуален. Российских ERP-систем, которые охватывали бы все аспекты работы винодельческого предприятия, пока нет. Поэтому мы занялись ее разработкой, - рассказал "РГ" руководитель направления проекта Digital Winery Максим Сычев.

Программа отслеживает весь процесс производства вина, помогает исключить ошибки и прогнозировать результат. Винодел может увидеть, откуда приехала ягода либо виноматериал, какие у него были характеристики, какие операции с ним проводились, при каких условиях, температуре, влажности. Также система охватывает всю работу с виноградниками. Учитываются метеоусловия, в которых рос виноград, количество солнечных и дождливых дней, а также различные агрооперации: подрезка лозы, уборка урожая, сколько при этом задействовано людей и техники.

По словам разработчиков, система проходит доработку и тестирование. В дальнейшем она будет использовать возможности искусственного интеллекта и научится даже распознавать болезни виноградной лозы.

- Готовим специализированную текстовую нейронную сеть для виноделов и агрономов, которая позволяет задать вопрос и получить компетентный ответ, - говорит Сычев. - Также обучаем нейронную сеть распознавать данные, которые будут поступать с дронов, патрулирующих виноградник. Нейросеть уже может с высокой долей вероятности определить, больна лоза или здорова, а в некоторых случаях и установить болезнь.

В Винном парке в поселке Оползневом на ЮБК тестируют первого робота-виноградаря российской разработки. Он способен подсчитать количество лозы на плантации и понять, насколько каждая подросла за сезон, нужно ли ей уделить внимание. Это особенно актуально на больших виноградниках, где на ежегодную инвентаризацию приходится тратить значительные ресурсы.

- Агроном получает сигнал, что у лозы есть проблемы с ростом, к ней надо подойти и принять решение, какие нужны работы, какой требуется уход, - пояснила "РГ" руководитель направления Центра человекоцентричного AI "Сбера" Дарья Якущенко. - Все данные с робота поступают в специализированную модель и обрабатываются при помощи искусственного интеллекта. В результате мы получим решение для виноделов, которое позволит высвобождать время для выполнения других задач, освободит от рутинной работы.

Также здесь доверили искусственному интеллекту тонкий процесс - купажирование вина. Первое вино, созданное нейросетью, было выпущено в 2020 году. Эксперименты продолжались, создана база данных на основе рынка российского вина, и ИИ научили "разбираться" в нем.

- Команда сомелье изучила весь рынок отечественного вина, в нашей лаборатории его проанализировали, чтобы определить 16 параметров, - говорит руководитель Винного парка Евгения Константинова. - Также были использованы данные трех основных рейтингов российского вина. Модель все это проанализировала и предложила свои варианты купажа, которые были использованы при создании партии красного вина. Искусственный интеллект помогает определить те параметры купажирования, которые найдут отклик у большего количества потребителей.

Технологии не смогут полностью заменить человека в виноградарстве и виноделии, считают эксперты. Однако искусственный интеллект очень скоро станет своего рода службой поддержки в этой отрасли.

- Многим людям страшно представить, что мы все отдадим на откуп искусственному интеллекту. Но мы к этому и не стремимся, - добавляет Дарья Якущенко. - Искусственный интеллект - это помощник в различных сложных процессах, в том числе и в производстве вина.

Как у них

Впервые вино с помощью искусственного интеллекта создали во Франции. Первооткрывателем стала компания с юга Франции Aubert & Mathieu, сообщает winestyle. Суть эксперимента заключалась в том, что виноделы решились во всем следовать советам чат-бота с искусственным интеллектом ChatGPT.

Запрос был такой: сделать исключительное органическое вино из лангедокских сортов винограда гренаш и сира. Спросили совета о винификации и пропорции купажа. Платформа предложила сделать купаж в пропорции 60 процентов гренаша и 40 - сиры, что, по ее словам, позволяет получить фруктовое и сбалансированное вино.

Название вина, его розничная цена и внешний вид бургундской бутылки также были запрошены в интерфейсе ChatGPT версии 3. Ответы настолько поразили опытных виноделов, что они полностью доверились искусственному интеллекту. Выпустили 600 бутылок. Его можно купить на официальном сайте производителя за 20 евро, хотя платформа советовала продавать по цене от 50 до 100 евро. Маркетинговый план также был создан искусственным интеллектом.

ИИ открыл 70 500 новых вирусов

Международная группа ученых использовала искусственный интеллект (ИИ) для обнаружения 70 500 ранее неизвестных РНК-вирусов, многие из которых были странными и не похожими на известные виды.

Это открытие расширяет понимание вирусного разнообразия и демонстрирует потенциал ИИ в изучении «темной материи» мира вирусов. Необычные вирусы обитают в соленых озерах, гидротермальных источниках и других экстремальных условиях.

РНК-вирусы идентифицировали с помощью метагеномики: ученые берут образцы всех геномов, присутствующих в окружающей среде, без необходимости культивировать отдельные вирусы. Для анализа исследователи разработали модель ИИ LucaProt.

LucaProt использует архитектуру, аналогичную той, что лежит в основе ChatGPT. Модель дополнили данными секвенирования и прогнозирования белков ESMFold. Это система ИИ для прогнозирования структуры белков аналогичная AlphaFold, за разработку которой в этом году вручили Нобелевскую премию по химии.

Систему обучили распознавать ключевой вирусный фермент — РНК-зависимую РНК-полимеразу (RdRp). Анализируя огромные объемы геномных данных, LucaProt идентифицировал последовательности, кодирующие этот фермент, что указывало на присутствие вирусов.

Многие из обнаруженных вирусов оказались необычными и не похожими на известные виды. Некоторые из них были исключительно длинными, а другие были найдены в экстремальных условиях, таких как горячие источники, соленые озера и даже в воздухе. Это открытие показывает, насколько разнообразным и адаптивным может быть мир вирусов.

Исследование расширяет представления ученых о вирусном разнообразии, открывая новые горизонты для изучения эволюции и экологии вирусов. Кроме того, характеристика новых вирусов может помочь в объяснении некоторых загадочных заболеваний и потенциально привести к разработке новых методов лечения.

ИИ может стать основанием для отмены результатов президентских выборов в США

алгоритмы и нейросети как орудия политической борьбы

Елена Ларина Владимир Овчинский

The Atlantic выкуплен лучшей подругой Камалы Харрис – женой покойного основателя Apple Стива Джобса - Лорен Пауэлл Джобс.

Поэтому статья начинается с описания опасностей в использовании ИИ в предвыборной борьбе со стороны сторонников Трампа:

«В течение многих лет ИИ подрывал способность общества доверять тому, что оно видит, слышит и читает. Национальный комитет Республиканской партии выпустил провокационную рекламу, предлагающую «сгенерированный искусственным интеллектом взгляд на возможное будущее страны в случае переизбрания Джо Байдена», демонстрируя апокалиптические машинные изображения разрушенных городских пейзажей и хаоса на границе.

Поддельные автоматические звонки, якобы от Байдена, призвали жителей Нью-Гэмпшира не голосовать на первичных выборах 2024 года.

Этим летом Министерство юстиции США расправилось с российской ботофермой, которая использовала ИИ для выдачи себя за американцев в социальных сетях, а OpenAI нарушила работу иранской группы, использующей ChatGPT для создания поддельных комментариев в социальных сетях.

Не совсем ясно, какой ущерб может нанести сам ИИ, хотя причины для беспокойства очевидны — эта технология облегчает злоумышленникам создание очень убедительного и вводящего в заблуждение контента. Учитывая этот риск, наблюдается некоторое движение в сторону ограничения использования ИИ, но прогресс был мучительно медленным в той области, где он может иметь наибольшее значение: выборы 2024 года».

Два года назад администрация Байдена опубликовала проект Билля о правах ИИ (куратором разработки этого проекта была, как сейчас стало известно, Камала Харрис – Е.Л., В.О.), направленный, среди прочего, на борьбу с «небезопасными или неэффективными системами», «алгоритмической дискриминацией» и «неправомерной практикой работы с данными». Затем, в 2023 году, Байден опирался на этот документ, когда издал свой указ об искусственном интеллекте (этот документ тоже готовился под началом Харрис – Е.Л., В.О.). Также в 2023 году лидер большинства в Сенате Чак Шумер провел в Вашингтоне саммит по искусственному интеллекту, в котором приняли участие миллиардеры Билл Гейтс, Марк Цукерберг и Илон Маск. Несколько недель спустя в Соединенном Королевстве состоялся международный саммит по безопасности ИИ, который привел к принятию серьезно звучащей «Декларации Блетчли», призывающей к международному сотрудничеству в области регулирования ИИ. Риски фальсификаций с помощью ИИ на выборах никто не заметил.

Тем не менее, ничто из этого не привело к изменениям, которые могли бы решить проблему использования ИИ в политических кампаниях в США.

25 июля 2024 года Федеральная комиссия по связи США (Federal Communications Commission) выступила с предложением, согласно которому политическая реклама на телевидении и радио должна раскрывать информацию о том, использует ли она ИИ. (Федеральная комиссия по связи США (FCC) не обладает юрисдикцией в отношении потоковой передачи, социальных сетей или веб-рекламы.) Это кажется шагом вперед, но есть две большие проблемы.

Во-первых, предлагаемые правила, даже если они будут приняты, вряд ли вступят в силу до начала досрочного голосования на выборах в этом году.

Во-вторых, предложение сразу же превратилось в партизанскую перепалку. Республиканский комиссар FCC заявил, что Национальный комитет Демократической партии организует изменение правил, потому что демократы отстают от Республиканской партии в использовании ИИ на выборах. Кроме того, он утверждал, что это - работа Федеральной избирательной комиссии.

Тем не менее, в августе 2024 года Федеральная избирательная комиссия объявила, что она даже не будет пытаться разработать новые правила против использования ИИ для выдачи себя за кандидатов в предвыборной рекламе с помощью аудио или видео, с помощью дипфейка. FEC также заявила, что у нее нет законных полномочий для принятия правил об искажении фактов с использованием аудио или видео. Кроме того, FEC посетовала, что ей в любом случае не хватает технических знаний для этого. Затем, уже в сентябре 2024 года, Федеральная избирательная комиссия пошла на компромисс, объявив, что намерена применять свои существующие правила против мошеннического искажения фактов независимо от того, с помощью какой технологии это происходит.

Сторонники более строгих правил в отношении ИИ в предвыборной рекламе, такие как Public Citizen, не сочли этого достаточным, охарактеризовав как «выжидательный подход» к борьбе с «избирательным хаосом».

Возможно, этого и следовало ожидать: свобода слова, гарантированная Первой поправкой к Конституции США, в целом разрешает ложь в политической рекламе. Но американская общественность дала понять, что хотела бы ввести некоторые правила, регулирующие использование ИИ в кампаниях.

В 2024 году около половины опрошенных американцев заявили, что, по их мнению, политические кандидаты, которые намеренно манипулируют аудио, изображениями или видео, должны быть отстранены от должности, если они выиграли выборы.

Основная проблема заключается в том, что Конгресс четко не возложил на какое-либо ведомство ответственность за то, чтобы политическая реклама основывалась на реальности, будь то продукт ИИ или старомодные формы дезинформации.

FCC несет ответственность за регулирование политической рекламы, но только в определенных средствах массовой информации: трансляциях, автоматических звонках, текстовых сообщениях. Однако, со временем FCC фактически ослабила правила в отношении политического спама, что привело к шквалу сообщений, которые многие получают сегодня. (Тем не менее, в феврале FCC единогласно постановила, что автоматические звонки с использованием технологии клонирования голоса ИИ, такие как реклама Байдена в Нью-Гемпшире, уже являются незаконными в соответствии с законом 30-летней давности.)

Просмотр информационных бюллетеней

По существу, это раздробленная система, в которой многие важные виды деятельности становятся жертвами пробелов в законодательной власти и войны за сферы влияния между федеральными агентствами. И по мере того, как политические кампании становятся цифровыми, они входят в онлайн-пространство с еще меньшим количеством требований к раскрытию информации или других правил. В отсутствие широкого регулирования некоторые штаты приняли свои собственные решения.

В 2019 году Калифорния стала первым штатом в стране, запретившим использование обманчиво манипулируемых СМИ на выборах, и осенью 2024 года усилила этот запрет с помощью ряда недавно принятых законов. Девятнадцать штатов приняли законы, регулирующие использование дипфейков на выборах.

Одна из проблем, с которой приходится сталкиваться регулирующим органам, заключается в широкой применимости ИИ: эту технологию можно использовать для множества различных задач, каждая из которых требует своего регулирования. Люди могут согласиться с тем, что кандидат отретушировал свою фотографию в цифровом виде, чтобы выглядеть лучше, но не сделать то же самое, чтобы его оппонент выглядел хуже. Мы привыкли получать персонализированные предвыборные сообщения и письма, подписанные кандидатом.

«Нормально ли получить робота с голосовым клоном того же политика, произносящего наше имя? И что нам следует делать с созданными ИИ предвыборными мемами, которыми сейчас делятся такие фигуры, как Маск и Дональд Трамп?».

Несмотря на тупиковую ситуацию в Конгрессе, эти вопросы представляют интерес для обеих партий. Это делает возможными определенные шаги, но, вероятно, не раньше выборов 2024 года и только если законодатели преодолеют серьезные препятствия. Один из рассматриваемых законопроектов, Закон о прозрачности выборов в области искусственного интеллекта, предписывает Федеральной избирательной комиссии требовать раскрытия информации, когда в политической рекламе используются СМИ, в основном созданные ИИ. Критики говорят, что это обременительно и увеличит стоимость политической рекламы. Закон о честной рекламе модернизирует закон о финансировании избирательных кампаний, расширяя полномочия FEC. Закон о защите выборов от вводящего в заблуждение ИИ запретит контент, созданный ИИ, на федеральных выборах, в Калифорнии и других штатах. Это многообещающие предложения, но либертарианские группы и группы по защите гражданских свобод уже сигнализируют о проблемах на основании Первой поправки. И, к сожалению, по крайней мере один комиссар Федеральной избирательной комиссии прямо сослался на рассмотрение Конгрессом некоторых из этих законопроектов в качестве причины, по которой его ведомство не должно действовать в отношении ИИ в настоящее время.

Одна группа, которая извлекает выгоду из всей этой неразберихи: технологические платформы. Когда мало или совсем нет очевидных правил, регулирующих расходы на политические кампании в Интернете, а также использование новых технологий, таких как ИИ, технологические компании имеют максимальную свободу для продажи рекламы, услуг и персональных данных для подобных кампаний. Это отражается в их лоббистских усилиях, а также в добровольных политических ограничениях, о которых они время от времени трубят, чтобы убедить общественность в том, что им не нужно более строгое регулирование.

Big Tech продемонстрировала, что они будут выполнять эти добровольные обещания только в том случае, если они принесут пользу отрасли. Facebook* однажды, на короткое время, запретил политическую рекламу на своей платформе. Затем разрешил. Теперь он даже допускает рекламу, которая безосновательно отрицает исход президентских выборов 2020 года. Политика OpenAI уже давно запрещает политическим кампаниям использовать ChatGPT, но обойти эти ограничения просто. Например, несколько компаний вызвались добавить водяные знаки к контенту, созданному ИИ, но их легко обойти. Водяные знаки могут даже усугубить дезинформацию, создавая ложное впечатление, что изображения без водяных знаков являются подлинными.

Эта важная государственная политика не должна быть оставлена на усмотрение корпораций, однако Конгресс, похоже, смирился с тем, что не будет действовать до выборов. Шумер намекнул NBC News в августе 2024 года, что Конгресс может попытаться прикрепить правила дипфейков к обязательным законопроектам о финансировании или обороне в сентябре 2024 года, чтобы гарантировать, что они станут законом до выборов. Совсем недавно он указал на необходимость действий «после выборов 2024 года».

Три законопроекта, перечисленные выше, - это только начало. «Федеральная избирательная комиссия и Федеральная комиссия по связи США (FCC) не должны спорить друг с другом о том, какая территория принадлежит какому агентству. И Федеральная избирательная комиссия нуждается в более значительной, структурной реформе, чтобы позволить ей сделать больше. Нам также нужна прозрачность и управление алгоритмическим распространением дезинформации на платформах социальных сетей.

Для этого необходимо, чтобы всепроникающее влияние технологических компаний и их инвесторов-миллиардеров было ограничено за счет более сильного лоббирования и защиты финансирования избирательных кампаний».

«Вводящие в заблуждение видео вредят нашему демократическому процессу, независимо от того, созданы ли они ИИ или актерами на звуковой сцене. Но насущная озабоченность по поводу ИИ должна быть использована для продвижения законодательной реформы. Конгрессу нужно сделать больше, чтобы контролировать грядущую волну дезинформации о выборах. Он должен действовать более смело, чтобы изменить ландшафт регулирования политических кампаний».

ИИ помогает формировать президентскую гонку 2024 года. Но не так, как опасались эксперты

Associated Press (21.09.2024) пишет в статье с таким названием, что «с приближением выборов 2024 года, первых с момента массовой популяризации генеративного ИИ, эксперты опасались худшего: социальные сети наводнили созданные ИИ дипфейки , которые были настолько реалистичны, что озадаченные избиратели не знали, чему верить.

Пока этого не произошло. Вместо этого избиратели видят гораздо более абсурдное: видео бывшего президента Дональда Трампа, едущего на кошке и держащего в руках штурмовую винтовку. Усатый вице-президент Камала Харрис, одетая в коммунистическую одежду. Трамп и Харрис страстно обнимаются.

ИИ играет важную роль в президентской кампании, даже если самые большие опасения относительно того, как он может угрожать президентским выборам в США, еще не материализовались. Поддельные изображения, созданные ИИ, регулярно рикошетят по сети, но многие из них настолько карикатурны и абсурдны, что даже самый наивный зритель не может воспринимать их всерьез.

Тем не менее, даже эти мемы могут быть проблематичными. Привлекательные фотографии и видео, созданные ИИ, некоторые из которых стремятся быть смешными, стали полезными инструментами для распространения ложных, иногда расистских сообщений с явным политическим уклоном — и кандидаты и их сторонники входят в число тех, кто делится ими в социальных сетях.

Например, Трамп и многие его союзники не только неоднократно продвигали теорию заговора о том, что гаитянские мигранты крадут и едят кошек и собак в Спрингфилде, штат Огайо, но и распространяли связанные с этим мемы, созданные ИИ. Один из мемов, опубликованный в аккаунте Трампа Truth Social, изображал его в роскошном самолете, окруженном кошками и белыми утками. Другой был изображен с группой котят, держащих табличку с надписью: «НЕ ДАЙТЕ ИМ СЪЕСТЬ НАС, голосуйте за Трампа!»

Франческа Триподи, эксперт по интернет-пропаганде, заявила, что подобные изображения, созданные с помощью ИИ, являются новыми вирусными средствами распространения старых антииммиграционных идей.

«Мемы, которые усиливают это утверждение, совсем не юмористичны. Когда у вас есть избранные должностные лица, которые используют эти образы как способ увековечения расизма и ксенофобии, это огромная проблема», — сказал Триподи, социолог из Университета Северной Каролины в Чапел-Хилл.

Республиканцы защищают эти изображения, называя их беззаботными шутками и побочными продуктами личности Трампа.

«Вокруг Дональда Трампа существует культура личности, которая поощряет такой чрезмерный стиль общения, превращающий вещи в комичные мемы», — сказал Калеб Смит, республиканский стратег. «Цель — развлекать, а не обманывать. Так и должно быть».

Не только сторонники Трампа

Трамп и его сторонники не единственные, кто создает мемы с ИИ, но они, похоже, используют генераторы изображений ИИ чаще, чем их коллеги-демократы. Некоторые пользователи левых взглядов опубликовали изображения ИИ, высмеивающие миллиардера Илона Маска, владельца X и открытого сторонника кампании Трампа. Демократы также опубликовали сгенерированные ИИ изображения Трампа в наручниках и преследуемого полицией, когда он был в суде на Манхэттене в 2023 году.

Однако кампания Камалы Харрис не склонялась к усилению контента, созданного с помощью ИИ, вместо этого сосредоточившись на трендах TikTok и других мемах, для создания которых не требуются модели ИИ.

«В настоящее время единственным разрешенным применением генеративного ИИ в ходе предвыборной кампании являются инструменты повышения производительности, такие как анализ данных и стандартная в отрасли помощь в кодировании», — заявила представитель кампании Харрис Миа Эренберг.

Что нужно знать о выборах 2024 года

Представитель предвыборной кампании Трампа Стивен Чунг сообщил, что стратегия кампании не изменилась с мая 2024 года, когда он отправил по электронной почте заявление о том, что кампания «не задействует и не использует» инструменты, предоставленные какой-либо компанией, работающей в сфере ИИ.

Использование фейковых, развлекательных, часто нелепых изображений для набора политических очков — это не новость. Но в отличие от слепленных в Photoshop изображений или политических карикатур, изображения, созданные ИИ, наносят более сильный удар своей гиперреалистичностью и могут привлечь новое внимание к политическому сообщению.

Хотя некоторые из изображений, связанных с домашними животными в Спрингфилде, были карикатурными и глупыми, многие посчитали, что они увековечивают вредоносную теорию заговора о сообществе, которое с тех пор получает угрозы о взрывах, что приводит к эвакуации школ и правительственных зданий.

«Одно дело — мемы, которые явно пародируют. Другое дело, когда они явно направлены на обман», — сказал представитель Адам Шифф, демократ из Калифорнии и ярый критик Трампа. «И мы уже видим, как кампания Трампа действительно размывает грань».

ИИ упрощает задачу

Скорость и доступность генеративных инструментов ИИ позволяют легко создавать необычный политический контент, который может собирать клики и лайки. Благодаря генераторам изображений ИИ, доступным любому человеку с подключением к Интернету, они являются дешевым и удобным способом для кампаний реагировать на онлайн-тенденции и доносить сообщение.

«Кампаниям уже очень давно приходится иметь дело с дезинформацией и недостоверной информацией. … Это не новая проблема. Но очевидно, что ИИ позволяет делать это быстрее, возможно, более убедительно и целенаправленно», — сказал Тедди Гофф, цифровой директор предвыборной кампании Барака Обамы в 2012 году.

Пол Инграссия, политический комментатор и юрист из Нью-Йорка, сказал, что он создал вирусное изображение Трампа, выходящего из логова льва, за считанные секунды, с помощью нейросети Grok, затем вставил его в свой информационный бюллетень и отправил его сотрудникам кампании Трампа. Аккаунт Truth Social Трампа опубликовал информационный бюллетень Инграссии, включая изображение, в тот же день.

«Я получил сообщение от своего контактного лица с президентом, и они сказали: «Президенту понравилось изображение, как вы его сделали? Кто его создал?» И я сказал: «Я сделал это для статьи», — сказал Инграссиа. «И он сказал: «Продолжайте свою замечательную работу, ему это нравится»».

Использование ИИ для политической сатиры и пропаганды не ограничивается США и наблюдалось на выборах от Индонезии до Нидерландов.

Более зловещие дипфейки также пытались повлиять на президентские гонки по всему миру. В 2023 году в Словакии изображения, созданные ИИ, выдавали себя за лидера либеральной партии, говорящего о фальсификации голосования за несколько дней до парламентских выборов. На праймериз в Нью-Гэмпшире в январе 2024 года аудиодипфейки президента Джо Байдена отправлялись в автоматических звонках избирателям-демократам, призывая их не голосовать. Инцидент быстро получил огласку и привел к уголовным обвинениям.

Принятие Трампом изображений, созданных ИИ, противоречит некоторым его прошлым комментариям. В интервью Fox Business в 2024 году Трамп назвал ИИ «очень опасным» и «таким страшным», потому что «нет реального решения» проблем, созданных передовыми технологиями.

В то же время некоторые республиканцы обеспокоены тем, как Трамп и Республиканская партия используют ИИ для создания политических мемов».

Что говорит социология о влиянии ИИ на президентскую кампанию США 2024 года?

Согласно новому исследованию Pew Research Center (опубликовано 19.09.2024)):

«Большинство американцев заявляет, что они обеспокоены влиянием ИИ на президентскую кампанию 2024 года; американцы также не доверяют крупным технологическим компаниям в плане предотвращения неправомерного использования их платформ с целью влияния на выборы.

Согласно опросу, проведённому среди американцев, 39% респондентов считают, что искусственный интеллект (ИИ) будет использоваться преимущественно в негативных целях во время президентской кампании. В то же время только 5% опрошенных уверены, что ИИ будет применяться исключительно в благих целях. Ещё 27% участников опроса предполагают, что использование ИИ будет распределено равномерно между хорошими и плохими намерениями.

Большинство взрослых американцев (57%), включая почти одинаковое количество республиканцев и демократов, заявляют, что они крайне или очень обеспокоены тем, что люди или организации, стремящиеся повлиять на выборы, будут использовать ИИ для создания и распространения ложной или вводящей в заблуждение информации о кандидатах и кампаниях.

Просмотры по партиям

Большинство в обеих партиях продолжают считать, что технологические компании обязаны предотвращать ненадлежащее использование своих платформ. Но демократы и их сторонники (84%) чаще, чем республиканцы и их сторонники (72%), выражают эту точку зрения.

Хотя взгляды демократов мало изменились с 2020 года, доля республиканцев, которые теперь говорят, что технологические компании несут эту ответственность за предотвращение неправомерного использования своих платформ, выше, чем четыре года назад. В августе 2020 года 64% республиканцев заявили, что технологические компании несут за это ответственность.

Как со временем менялось доверие американцев к технологическим компаниям

За последние шесть лет снизилось доверие общественности к технологическим компаниям и их способности предотвратить неправомерное использование их платформ для влияния на выборы.

Сегодня лишь 20% американцев говорят, что они полностью или частично уверены в способности таких технологических компаний, как Facebook*, X, TikTok и Google, предотвратить неправомерное использование их платформ с целью повлиять на президентские выборы 2024 года.

В 2018 году треть американцев заявили, что уверены в том, что эти компании смогут это сделать.

Сегодня, в 2024 году 79% взрослых говорят, что они не слишком уверены или вообще не уверены в том, что технологические компании смогут остановить неправомерное использование своих платформ для влияния на выборы.

Просмотры по партиям

Большинство в обеих партиях говорят, что не уверены в том, что технологические компании предотвратят нецелевое использование своих платформ. Республиканцы и демократы стали менее уверенными с 2018 года.

80% республиканцев и независимых избирателей, симпатизирующих республиканцам, совсем или не слишком уверены в способности технологических компаний предотвратить неправомерное использование своих платформ, по сравнению с 72%, которые не были уверены в этом в 2018 году. Однако доля республиканцев, которые говорят, что они совсем не уверены, снизилась с 2020 года (33% сейчас, 43% тогда).

79% демократов и сторонников демократов заявляют, что не уверены в способности технологических компаний прекратить злоупотребления. Это на 20 процентных пунктов больше, чем в 2018 году, когда в этом не были уверены 62% демократов».

***

Почему именно демократы раздувают проблему ИИ на выборах?

Пока ситуация складывается не в их пользу.

В проигранных выборах можно будет легко найти главного виновного.

И им, скорее всего, станет ИИ!

За обоими кандидатами в президенты стоят лидеры Кремниевой долины, где и разрабатываются основные модели ИИ.

Профессионалы всегда найдут основания обвинить ИИ противника.

Влияние ИИ на результаты выборов может быть признано основанием считать их недействительными (естественно, после соответствующих судебных процедур).

*соцсеть компании Meta, признанной экстремистской и запрещённой в РФ

ValueAI внедряет умный поиск по базам знаний с использованием технологии RAG

ValueAI, российская платформа для быстрого запуска и интеграции проектов с искусственным интеллектом (ИИ), представила новую возможность для бизнеса — интеллектуальный поиск по корпоративным базам знаний на основе RAG (Retrieval Augmented Generation).

Эта технология сочетает генеративные возможности ИИ с поиском по релевантным источникам информации в реальном времени, позволяя получать надежные и точные ответы. Такой подход сокращает время на анализ данных, минимизирует ошибки, оптимизирует расходы и повышает эффективность коммуникаций. Также доступна возможность использовать ИИ-модели on-premise.

С помощью новой технологии пользователи могут в режиме реального времени получать точные и релевантные ответы на типовые вопросы из любой внутренней базы знаний: объемной документации, в которой сложно ориентироваться (инструкции, регламенты и др.). Интеграция с уникальными и надежными источниками информации, доступными только для организации, позволяет ИИ-модели опираться на реальные данные, что значительно уменьшает вероятность выдачи вымышленных ответов и минимизирует риск ошибок.

Платформа ValueAI выступает как готовый инструмент для RAG-поиска, который объединяет базу знаний, загруженную через интерфейс или интегрированную по API, преобразование файлов в подходящий для поиска формат, поиск релевантной информации, ее обработку ИИ-моделью и генерацию ответа чат-ботом.

Для интерпретации найденной информации RAG-модуль в ValueAI использует одну из больших языковых моделей YandexGPT, ChatGPT или LlaMA. Также доступна возможность использовать модели on-premise.

Модуль также можно настроить, чтобы он самостоятельно обращался ко внешним обновляемым корпоративным системам для автоматического пополнения базы новыми записями, а также адаптировать его для работы со специализированными предметными областями, требующими глубокого контекстуального понимания.

"Поиск с RAG значительно улучшает работу служб поддержки, контакт-центров и HR-департаментов. Мы наблюдаем особый интерес к этой функции со стороны бизнеса, работающего с большими объемами информации, в частности госучреждений, производства, юридических компаний, фармацевтики, финтеха и строительства. Также RAG-поиск востребован среди организаций с высокой текучкой кадров или, наоборот, интенсивно наращивающих штат, и крупных компаний с развернутой службой поддержки клиентов", — отмечает Александр Азаров, генеральный директор "ВейвАксесс", компании-разработчика платформы ValueAI.

Команда "ВейвАксесс" создала платформу ValueAI, чтобы компании могли извлекать ценность из своих данных, строить прогнозные модели под свои задачи и оптимизировать работу команд, прибыль и качество услуг с помощью ИИ.

Искусственный интеллект захватывает мир (мобильных приложений): как китайские разработки завоевывают внутренний и мировой рынок

Лео­нид Елец­ких

ди­рек­тор по про­дажам Adjust в Вос­точ­ной Ев­ро­пе

ИИ повсюду - от любимых мобильных приложений до инструментов, которые мы каждый день используем для работы. Он стал неотъемлемой частью нашего цифрового опыта, трансформируя каждый свайп, клик и голосовую команду в персонализированные, умные решения. Разработчики активно внедряют ИИ в мобильные приложения, создавая инструменты, которые предугадывают желания пользователей и реагируют на их нужды с невероятной скоростью. Интеграция ИИ в приложения - это не просто тренд, а ключ к более быстрому росту и успеху.

Какие глобальные тренды ИИ в мобильных приложениях ждут нас? И какую роль (спойлер: первостепенную) в этом занимает Китай? Леонид Елецких, директор по продажам Adjust в Восточной Европе, рассказывает, какие приложения с ИИ движут этот динамично развивающийся рынок.

Мировые тренды мобильных приложений с ИИ

Мировой рынок искусственного интеллекта (ИИ) стремительно развивается, и, по прогнозам, его объем достигнет $407 млрд к 2027 году, по сравнению с $86,9 млрд в 2022-м. Только приложения с ИИ в 2022 году обеспечили доход в $2,5 млрд, а эта цифра продолжает быстро расти: по прогнозам, среднегодовой темп роста (CAGR) составит впечатляющие 38,3% к 2028 году. Это нашло отражение и в App Store, где с 2020 года количество приложений с "AI" в названиях увеличилось на 1033%.

OpenAI, известный своим чат-ботом на базе GPT, стал главным катализатором этого сдвига. С момента запуска ChatGPT в ноябре 2022 года количество пользователей достигло 100 млн всего за два месяца. Релиз GPT-4 в мае 2024-го вызвал новый всплеск интереса: в первый день доход мобильного приложения ChatGPT вырос на 22%, достигнув $4,2 млн в период с 13 по 17 мая. Этот резкий рост свидетельствует о высоком потребительском спросе на ИИ-технологии на мобильных устройствах. В дополнение к этому, Bing AI от Microsoft, работающий на базе GPT-4, произвел фурор в мире поисковых систем, что побудило Samsung рассмотреть возможность замены Google на Bing в качестве основной поисковой системы, что может обойтись Google в $3 млрд год.

Когда речь идет о глобальном внедрении ИИ, Китай выступает лидером. В стране 58% компаний уже используют ИИ, а еще 30% планируют это сделать, что делает Китай одним из ведущих мировых игроков в этой сфере. Для сравнения, например в США ИИ используют 25% компаний, а 43% рассматривают возможность его внедрения. Эти данные подчеркивают не только значительную роль Китая на глобальной ИИ-сцене, но и его потенциал в установлении стандартов для других стран.

Взлет китайских приложений c ИИ

Китай продолжает закреплять за собой позиции лидера в области искусственного интеллекта благодаря мощной государственной поддержке и значительным инвестициям в исследования и разработки. Ожидается, что рынок ИИ в стране вырастет на более чем 400%, увеличив объем с $29 млн в 2023 году до $150 млрд к 2032 году.

Ведущие ИИ-приложения в Китае

• Baidu

Baidu активно работает над созданием "приложений на основе ИИ" и уже вывела на глобальный рынок такие продукты, как Meira, SynClub и WiseAI. Один из главных проектов компании - ERNIE Bot, генеративный ИИ-продукт на основе крупной языковой модели (LLM), который способен глубже понимать намерения пользователей и давать логичные, быстрые и точные ответы. Этот ИИ используется в приложении Baidu Ruliu AI Assistant, которое улучшает взаимодействие во время личных встреч, помогая пользователям в реальном времени анализировать разговоры и подсказывать важные темы для обсуждения.

Также Baidu внедрила своего бота в приложение Baidu Wenku, позволяя пользователям создавать документы и статьи на основе ключевых слов. А Wenxinyige, их масштабная предварительно обученная модель, генерирует креативные изображения, точно интерпретируя текстовые описания.

• ByteDance

ByteDance, также известная как "фабрика приложений", успешно вывела на мировой рынок несколько ИИ-продуктов. Вот два ключевых примера: Gauth - приложение для обучения с ИИ, которое активно используется и имеет высокие рейтинги в образовательной категории. TikTok (Douyin) - всемирно известное приложение, где ИИ играет ключевую роль в подборе контента, персонализируя его под предпочтения пользователей, что способствует невероятно высокой вовлеченности и популярности платформы по всему миру.

Почему китайские приложения c ИИ завоевывают мировой рынок

Китайские компании в области ИИ все активнее выходят на международные рынки, стремясь к глобальному росту. Основные причины, способствующие их расширению, включают:

1. Сформированные платежные привычки. В таких регионах, как Европа и США, пользователи привыкли платить за подписки и премиум-версии приложений. Это упрощает монетизацию ИИ-продуктов на этих рынках, обеспечивая стабильный доход для китайских разработчиков.

2. Доступ к продвинутым моделям. На международных рынках, особенно за пределами Китая, доступ к передовым ИИ-моделям менее ограничен, что позволяет внедрять больше инноваций. Это дает китайским компаниям конкурентное преимущество и возможность разрабатывать более эффективные продукты.

3. Инвестиционная и финансовая среда. Международные инвесторы активно поддерживают инновации и технологии. Благодаря этому китайские компании могут получить необходимое финансирование для глобального масштабирования и продолжать развивать свои ИИ-решения на мировой арене.

Рассмотрим стратегические особенности китайских ИИ-приложений на мировом рынке

Быстрая итерация и адаптация. Успех на международных рынках во многом зависит от того, насколько оперативно продукт проходит проверку на соответствие требованиям рынка (PMF) и как быстро вносятся улучшения на основе отзывов пользователей и технологических новшеств. Китайские компании стремятся к гибкости, адаптируясь к различным требованиям локальных рынков, чтобы добиться успеха в каждом регионе.

Ранняя коммерциализация. Вывод продукта на рынок на раннем этапе позволяет китайским компаниям занять стратегически важные позиции и завоевать первых пользователей. Быстрая коммерциализация дает конкурентное преимущество и позволяет компаниям собирать отзывы, необходимые для дальнейшего совершенствования продуктов. Компании, такие как FlowGPT и HeyGen, наглядно демонстрируют важность агрессивных маркетинговых стратегий и раннего выпуска на глобальный рынок для ускорения принятия и роста.

Локализация и организованность. Успешные китайские ИИ-компании понимают важность адаптации приложений к потребностям пользователей на местных рынках. Локализация продукта с учетом культурных особенностей региона и глубокое понимание внутренних условий рынка способствуют долгосрочному успеху и укреплению позиций приложения на международной арене.

Почему мобильные приложения должны использовать ИИ?

ИИ становится ключевым инструментом для мобильных приложений, позволяя им не только оправдать ожидания пользователей, но и превзойти их, обеспечив более глубокую вовлеченность и эффективность. Внедрение ИИ не требует создания абсолютно новых приложений - достаточно добавить его элементы, чтобы кардинально улучшить пользовательский опыт и вывести приложение в лидеры. Вот как это работает.

Персонализированный пользовательский опыт

ИИ помогает приложениям анализировать поведение и предпочтения пользователей, создавая индивидуальный опыт для каждого человека. Например, представьте, что вы открываете приложение для покупок и сразу видите товары, подобранные под ваш стиль, с учетом истории ваших прошлых покупок. Эта технология востребована среди 65% потребителей, которые, по данным Salesforce, хотят получать более персонализированный подход. Примером такого подхода может служить функция Discover Weekly от Spotify, где ИИ формирует персонализированные плейлисты, что значительно повышает вовлеченность пользователей.

Интеллектуальная автоматизация

ИИ также играет важную роль в автоматизации процессов как на уровне взаимодействия с пользователями, так и внутри приложения. Он предугадывает потребности пользователей и выполняет задачи, что делает взаимодействие быстрее и удобнее. Согласно отчетам, приложения с ИИ-чат-ботами обеспечивают уровень удовлетворенности пользователей до 80%, во многом благодаря более плавным и автоматизированным процессам. Внутри приложения ИИ улучшает управление данными и клиентским обслуживанием, а также повышает общую эффективность приложения. Например, в банковских приложениях ИИ-чат-боты могут мгновенно предоставлять информацию по запросам балансов счетов или транзакций, освобождая сотрудников для выполнения более сложных задач.

Повышенная безопасность с ИИ

В современном цифровом мире безопасность играет критически важную роль, и ИИ помогает в защите данных. Он анализирует поведение пользователей для выявления аномалий, таких как подозрительные входы или транзакции, которые могут нести угрозу. Компания Ellie Mae, занимающаяся ипотечными кредитами, обнаружила, что ИИ-решения для безопасности выявляют угрозы в 10 раз быстрее по сравнению с традиционными методами.

Прогнозная аналитика

ИИ также используется для прогнозирования поведения пользователей и предсказания будущих тенденций. Он анализирует большие массивы данных и выявляет закономерности, предлагая пользователям контент в соответствии с их будущими потребностями. Примером такой технологии является рекомендательная система Netflix, которая, используя ИИ, помогает удерживать 80% своих подписчиков.

Диалоговые интерфейсы на базе ИИ

Чат-боты и голосовые помощники, основанные на ИИ, меняют способ взаимодействия пользователей с приложениями. Вместо простых касаний экрана и свайпов они теперь могут общаться с приложениями на естественном языке, используя обработку естественного языка (NLP) и машинное обучение. Примером служат Google Assistant и Amazon Alexa, которые могут выполнять широкий спектр задач - от установки напоминаний до управления устройствами умного дома, - всё это с помощью голосовых команд.

Повышенная доступность

ИИ также делает мобильные приложения более доступными для людей с ограниченными возможностями. Функции, такие как преобразование голоса в текст и субтитры в реальном времени, помогают создать более инклюзивную среду, позволяя всем пользователям активно взаимодействовать с цифровыми приложениями. Примером служит Voice Access от Google, которое позволяет пользователям управлять Android-устройствами с помощью голосовых команд, значительно упрощая навигацию для людей с ограниченной подвижностью или зрением.

Контекстный и поведенческий анализ

Контекстный и поведенческий анализ на основе ИИ позволяет приложениям лучше понимать текущую ситуацию пользователя и его поведение, обеспечивая максимально персонализированные взаимодействия. Этот подход использует такие данные, как местоположение, время суток, тип устройства и активность, чтобы выявить окружение пользователя и предложить релевантные решения в нужное время. Например, приложение для здоровья, отслеживающее физическую активность и пищевые привычки пользователя, может предлагать персонализированные тренировки и планы питания, что повышает вовлеченность и улучшает результаты пользователя.

Какое будущее ждет ИИ в мобильных приложениях?

В будущем ИИ станет неотъемлемой частью мобильных приложений, глубоко интегрированной в их инфраструктуру. Он перестанет быть дополнительной функцией, а станет центральной составляющей, позволяющей создавать умные, интуитивные и безопасные приложения, которые будут предсказывать потребности и поведение пользователей, предлагая им гиперперсонализированные решения.

Интеграция ИИ с технологиями дополненной и виртуальной реальности (AR/VR) сделает взаимодействие с приложениями еще более увлекательным и интерактивным. В играх это позволит создавать динамичные, иммерсивные миры, которые адаптируются под поведение игрока в реальном времени. В образовательных приложениях такие технологии помогут разрабатывать сценарии реальных ситуаций и предлагать контент, адаптированный под стиль обучения пользователя. В ретейле ИИ сможет создавать виртуальные примерочные, предлагая уникальный персонализированный опыт покупок. Кроме того, с помощью ИИ будут разработаны более сложные методы защиты данных и обеспечения конфиденциальности.

Китай. Весь мир > СМИ, ИТ > comnews.ru, 30 сентября 2024 > № 4801865 Лео­нид Елец­ких

ИИ меняет подход к закупкам: новые горизонты для корпоративных решений

Алек­сей Тка­чен­ко

Не­зави­симый эк­сперт

О технологиях искусственного интеллекта (ИИ) сейчас говорят везде, и на то есть серьезные основания. По данным консалтинговой компании PwC1, мировой ВВП к 2030 году вырастет на 14% за счет использования технологий ИИ. Этот прирост равен $15,7 трлн, что превышает текущий суммарный ВВП Китая и Индии.

Повышенный интерес к ИИ появился с выходом ChatGPT компании Open AI. Это приложение установило рекорд по скорости роста пользователей: потребовалось пять дней, чтобы достичь 1 млн пользователей и два месяца для отметки в 100 млн пользователей. Для примера, TikTok набрал 100 млн пользователей за девять месяцев2.

Применение ИИ в решении бизнес-задач открывает новые возможности для повышения эффективности и конкурентоспособности компаний. Однако, наряду с перспективами, его использование сопровождается рядом недостатков:

1. Ограничения данных. Эффективность ИИ в значительной степени зависит от объема и качества данных, на которых обучена модель. Таким образом, модель может оперировать только той информацией, которую разработчики использовали при создании этой модели.
2. Галлюцинации. ИИ может генерировать ответы, не соответствующие действительности, что потенциально может привести к принятию неверных решений.
3. Конфиденциальность данных. Внедрение ИИ в корпоративные процессы вызывает опасения по поводу защиты конфиденциальной информации, особенно при использовании публично доступных ИИ-сервисов.

Решением этих проблем является использование специализированных ИИ-агентов, которые представляют собой программы, интегрированные в защищенную корпоративную инфраструктуру. Эти ИИ-агенты используют методы искусственного интеллекта для выполнения определенных задач, таких как поиск информации в Сети, оптическое распознавание символов (OCR), а также доступ к транзакционным и мастер-данным из корпоративных информационных систем. Они могут анализировать данные, принимать решения и взаимодействовать с другими системами или пользователями, что позволяет автоматизировать процессы и улучшить работу с информацией в компании.

За последний год появление ИИ-агентов анонсировали многие крупные вендоры корпоративных информационных решений. Например, SAP запускает ИИ-агента Joule, который будет глубоко интегрирован в экосистему решений SAP, предоставляя возможность реализовывать бизнес-процессы в рамках единого окна в формате чата с доступом к внутренним транзакционным и мастер-данным, а также к внешним данным, предоставленным сторонними решениями.

Сценарии использования ИИ для преобразования закупочных процессов

Согласно отчету3 консалтинговой компании Bain, использование ИИ в данной области можно разделить на шесть ключевых направлений: закупочные стратегии, организационная и операционная модель, категорийное управление, управление поставщиками, корпоративная социальная ответственность и операционные закупки.

Количество точек на инфографике ниже отображает количество сценариев с использованием ИИ в каждом направлении. В материале будут рассмотрены следующие сценарии: категорийное управление (сбор данных о рынке для создания категорийных стратегий, проведение закупочных процедур и управление договорами) и операционные закупки (создание заявок на закупку).

Сбор данных о рынке для создания категорийных стратегий. SAP Ariba Category Management с использованием ИИ-агента SAP Joule4 извлекает, анализирует и визуализирует данные из различных внутренних и внешних источников в режиме реального времени.

SAP Ariba Category Management проводит анализ пяти сил Портера: угрозы появления продуктов-заменителей, угрозы появления новых игроков на рынке, рыночной власти поставщиков, рыночной власти потребителей и уровня конкурентной борьбы.

Также с помощью данных, собранных ИИ, SAP Ariba Category Management создает матрицу Кралича. Матрица разделена на четыре квадранта, каждый из которых отражает различные типы закупок на основе двух ключевых параметров: влияния на финансовый результат и риска поставки.

Одним из внешних источников данных для SAP Ariba Category Management является сервис Beroe5. Используя ИИ для сбора больших массивов данных о рыночных трендах и извлечения из них значимых инсайтов, Beroe покрывает более 2000 закупочных категорий в различных отраслях экономики.

Проведение закупочных процедур. Пользователь предоставляет информацию о предмете закупки через ИИ-агента SAP Joule в SAP Ariba Sourcing. ИИ запрашивает у пользователя дополнительную информацию, такую как характеристики предмета закупки. Затем он предлагает рекомендации на основе исторических данных и прогнозной аналитики, например, каких поставщиков стоит пригласить к участию в закупке. ИИ предоставляет обоснование каждой рекомендации и предлагает пользователю возможность принять их или вручную добавить другие варианты.

После окончательного утверждения закупочная процедура может быть опубликована непосредственно через чат-интерфейс. SAP Joule продолжает поддерживать пользователя, отслеживая предложения поставщиков и предоставляя оперативные обновления и аналитику.

Управление договорами. Icertis6 - мировой лидер в области интеллектуального управления контрактами, в 2024 году получил премию AI Breakthrough 2024 за инновации в области ИИ7.

Платформа Icertis Contract Intelligence (ICI) предлагает несколько ключевых возможностей, которые трансформируют работу с контрактами. Одной из основных функций является интеллектуальное извлечение и анализ данных. ИИ преобразовывает сложный юридический язык в структурированные бизнес-данные, превращая контракты из статических документов в динамичные, интеллектуальные активы.

Icertis выполняет автоматическую проверку соответствия контракта типовым формам в режиме реального времени, обеспечивая наличие необходимых положений и контрактных условий. Использование ИИ чат-бота позволяет пользователям взаимодействовать с контрактами с помощью запросов на естественном языке. Это упрощает доступ и понимание сложной информации.

Еще одним инструментом, предоставляемым Icertis, является прогнозная аналитика. Используя данные из более чем 10 млн контрактов, ИИ может предоставлять инсайты, которые помогают компаниям принимать более обоснованные решения во время переговоров с поставщиками. Компания также работает над расширением количества поддерживаемых языков для удовлетворения потребностей глобальных компаний.

Создание заявок на закупку. Создание заявок остается сложным для тех, кто не является профессионалом в области закупок. Даже с использованием таких передовых систем, как SAP Ariba, задача не упрощается, поскольку для создания заявки порой требуется заполнить более 30 полей. На помощь приходят ИИ-агенты, такие как SAP Joule, Watson AI8, Ivalua IVA9, ZIP AI10.

ИИ-агенты автоматизируют заполнение форм заявок на закупку, извлекая данные из учетных систем и исторических записей, систем управления поставщиками, сокращая ручной ввод и связанные с ним ошибки. ИИ проводит умную маршрутизацию заявок по доступным каналам закупок, направляет пользователей в процессе создания заявок, задавая вопросы и предлагая рекомендации для обеспечения точности и полноты собранной информации.

Повышение эффективности процесса создания заявок на закупку (intake to procurement) на данный момент пользуется особенным спросом у западных компаний. Компания ZIP, основанная в 2020 году в Калифорнии, менее чем за два года выросла из стартапа в компанию-"единорога" c текущей оценкой более $1,5 млрд11. Платформа предлагает единый, унифицированный интерфейс для всех заявок на закупку, улучшая видимость и упрощая процесс для пользователей.

Использование ИИ помогает не только закупщикам, но и приносит пользу поставщикам. Консалтинговые компании активно внедряют Microsoft Copilot и его аналоги с целью получить сокращение трудозатрат и времени на создание технико-коммерческих предложений на основе исторических данных. Маркетплейсы уже сейчас увеличивают средний чек, применяя ИИ для формирования предложений по аналогам и дополнительным рекомендуемым товарам.

Современные тенденции развития лучших мировых закупочных решений, таких как SAP Ariba, Coupa, Ivalua заключаются в улучшении пользовательского опыта и легкой адаптации пользователей, максимизации ценности от используемых в бизнес-процессе данных из внутренних и внешних источников, предоставлении возможности быстрой и дешевой интеграции и кастомизации.

Российские решения по автоматизации закупок

Российские решения по автоматизации закупок находятся на менее зрелой стадии развития. Самым полноценно развитым блоком является управление закупочными процедурами. При этом подавляющее большинство российских компаний до сих пор используют только ЭТП, и остальные части SRM процесса остаются неавтоматизированными - планирование и консолидация потребности, процедуры согласования, анализ предложений поставщиков. Другие блоки, такие как управление поставщиками и договорами, операционные закупки либо слабо развиты, либо отсутствуют вовсе. На сегодняшний момент ни одно из доступных на рынке российских решений не обеспечивает полноценное бесшовное покрытие сквозного процесса закупок Source-to-Pay на одной платформе.

Хотя нельзя не отметить и положительную динамику. Вынужденное импортозамещение, а также требования к функционалу, предъявляемые компаниями с высокой зрелостью функции закупок, дают российским вендорам сильный толчок к развитию. Некоторые из них стали развивать системы в партнерстве с крупными заказчиками, которые ранее использовали западные решения (например, SAP Ariba) и готовы делиться накопленной экспертизой и лучшими практиками.

Уже сейчас в России начинают появляться собственные разработки с использованием ИИ. Например, интеллектуальные сервисы Effect Isource и Inspector Isource.

Effect Isource позволяет значительно сократить время и трудозатраты при анализе рынка, расширить конкурентную среду. Так, использование сервиса на 90% ускоряет процесс поиска и анализа поставщиков в рамках одной закупки, а время от начала поиска до формирования расчета начальной максимальной цены контракта может сократиться в среднем на 80%.

Решение Inspector Isource используется для проведения технического аудита при предквалификации поставщика - проверки надежности поставщика, оценки его технических возможностей. ИИ автоматически определяет степень критичности выявленных нарушений на основе введенного аудитором текста. Это обеспечивает максимально объективную оценку поставщика, повышает скорость и точность проверки. Процесс оценки технических условий может занимать до месяца, но с использованием Inspector Isource это время сокращается в среднем до одного дня. Также сейчас завершается разработка нейросетевой модели, которая будет оценивать технические условия производителя на соответствие стандартам Института нефтегазовых технологических инициатив.

Системы управления закупками, как и любые другие решения, не развиваются в изоляции от потребностей заказчиков. Несмотря на все ограничения, связанные с изменившейся геополитической ситуацией, многие российские компании стремятся не только решать текущие проблемы, но и видят в закупках стратегическую функцию, способную значительно повысить эффективность и конкурентоспособность. Это желание перехода на новый, более зрелый уровень, несомненно, будет способствовать развитию и улучшению российских систем управления закупками, делая их более качественными и адаптивными.

1 https://pwc.to/349x8w5

2 https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-…

3 https://www.bain.com/insights/generative-ai-procurement-interactive/

4 https://www.sap.com/assetdetail/2023/11/4840a651-977e-0010-bca6-c68f7e6…

5 https://www.beroeinc.com/beroe-live-ai/

6 https://www.icertis.com/products/ai-applications/exploreai/

7 https://finance.yahoo.com/news/icertis-wins-2024-ai-breakthrough-130000…

8 https://www.ibm.com/products/watsonx-orchestrate/procurement

9 https://www.ivalua.com/technology/procurement-platform/generative-ai/

10 https://ziphq.com/ai

11 https://www.forbes.com/sites/phoebeliu/2023/05/15/procurement-startup-z…

Индия. Китай. Весь мир > СМИ, ИТ. Приватизация, инвестиции > comnews.ru, 30 сентября 2024 > № 4801864 Алек­сей Тка­чен­ко

Эксперты IT-форума в Воронеже обсудили вызовы новой цифровой реальности

Татьяна Ткачёва

Резкий рост числа кибератак и изощренные схемы обмана граждан стали привычным фоном жизни. Как бизнес и органы власти в Воронежской области справляются с угрозами цифровой безопасности? Какие технологичные решения способны снизить эти риски? В каких сферах начали задействовать искусственный интеллект и какие подводные камни связаны с его применением? Злободневные вопросы подняли участники круглого стола, организованного "Российской газетой" на форуме "Цифроземье-2024" - крупнейшем в черноземном регионе IT-событии года.

Атакуют по всем фронтам

В первом квартале Воронежская и Орловская области вошли в число регионов ЦФО с повышенным количеством атак киберпреступников на сайты бизнеса и госорганов, сообщили в МТС со ссылкой на данные собственного исследования. При этом самой распространенной мишенью стали компании в IT и телекоме, на которые пришлось 39,5 процента всех отраженных DDoS-атак. На втором месте оказался госсектор (почти 30 процентов атак), на третьем - промышленные предприятия (9,3 процента).

Всего за этот период МТС отразила свыше 6200 DDoS-атак на веб-ресурсы заказчиков - в полтора раза больше, чем за второе полугодие 2023 года. Больше всего инцидентов было зафиксировано в Поволжье, на второй позиции - Центральный федеральный округ.

- В последнее время мы отмечаем рост не только длительности и интенсивности DDoS-атак, но и технической подкованности их организаторов. Например, при проведении самой мощной мартовской атаки, которая длилась больше 20 часов, злоумышленники целились не в произвольные серверы компании, а в роутер, чтобы отрезать доступ в интернет сразу для максимального числа ресурсов. Поэтому надежная защита от DDoS-атак является "гигиеническим минимумом" для компании любого масштаба, - подчеркнул директор филиала ПАО "МТС" в Воронежской области Василий Голуб.

В 2023 году в целом по стране произошло около тысячи кибератак на организации финансового сектора. Более 40 процентов из них составили DDoS-атаки, направленные на снижение операционной эффективности. Остальное пришлось на фишинговые рассылки и рассылки вредоносного программного обеспечения, следует из анализа ЦБ.

Надежная защита от DDoS-атак является гигиеническим минимумом для компании любого масштаба

- Новым трендом стал значительный рост количества компьютерных атак, направленных на эксплуатацию уязвимостей системы управления веб-сайтами. Также участились атаки на разработчиков и интеграторов. Причем хакеры не ограничивались кражей данных, а пытались удаленно подключиться к клиентам. Распознать такую атаку достаточно сложно: подключение с известных адресов в доступную для подрядчика среду сегмента сети воспринимается как легитимное, и его не спешат прервать. Поэтому многократно взрастали риски вывода из строя информационных систем и кражи информации, в том числе персональных данных, - рассказал заведующий сектором защиты информации воронежского отделения Банка России Сергей Чупахин.

Атаки на физлиц стали прицельнее: преступники черпают сведения из открытых источников, в частности соцсетей, и из украденных баз данных. Это позволяет делать уже не веерные звонки и рассылки наудачу, а действовать более точечно. Во втором квартале 2024 года мошенникам удалось провести 257 тысяч операций на сумму около 4,8 миллиарда рублей.

- Количество хищений по сравнению с предыдущими периодами снизилось, но ущерб вырос. То есть увеличился средний размер кражи. Вспомним новости о том, как люди продают недвижимость, берут миллионные кредиты… Примечательно, что из похищенных 4,8 миллиарда на бизнес приходится 135 миллионов. Все остальное выманили у граждан, - констатировал Чупахин.

В основном киберпреступники орудуют по телефону, все чаще звонят через мессенджеры. Обмануть бдительность собеседников помогают психологические методы, основанные на злоупотреблении доверием. Сюжеты разговоров постоянно адаптируют к повестке дня.

Пополняют арсенал

Что можно противопоставить такому натиску?

Один из ключевых механизмов защиты - банковские антифрод-системы. За тот же второй квартал 2024 года финансовые организации смогли предотвратить 16,3 миллиона мошеннических операций (в полтора раза больше, чем за предыдущий период) на сумму 2,3 триллиона рублей.

Другое действенное средство - блокировка телефонов, которые используют мошенники. По статистике ЦБ, в 2023 году она затронула 576 тысяч номеров. Кроме того, по инициативе Банка России был органичен доступ почти к 35 тысячам мошеннических интернет-ресурсов (подавляющее большинство - фишинговые сайты), 4,5 тысячам страниц в соцсетях и 35 поддельным мобильным банковским приложениям.

И, конечно, серьезные шаги принимаются на уровне законодательства.

- В прошлом году вступил в силу закон о взаимодействии между Банком России и МВД, который позволяет сократить сроки получения информации в рамках расследований по делам о киберпреступности. В июле этого года начал действовать закон, по которому банки обязаны приостанавливать переводы, если информация о получателе денег содержится в базе данных Банка России о случаях и попытках мошеннических операций. Если человек перевел деньги на реквизиты, которые находятся в этой базе, банк будет обязан заморозить операцию на два календарных дня и уведомить клиента. Это время дается на то, чтобы человек одумался и отменил операцию. Если же счет был в базе данных регулятора, но банк не приостановил перевод и не уведомил клиента, а потом человек оспорил эту операцию, то банк обязан будет возместить ему деньги сам. Кроме того, теперь банки обязаны отключать доступ к дистанционному обслуживанию так называемым дропперам - людям, которые занимаются выводом и обналичиванием похищенных денег. Их карты должны блокироваться, если от полиции поступили сведения об участии человека в мошеннической схеме. А с марта 2025-го вступает в силу закон, предусматривающий возможность установить самозапрет на выдачу кредитов. Благодаря этому любой человек сможет обезопасить себя от ситуации, когда мошенники взяли деньги на его имя и оставили с долгами, - напомнил Сергей Чупахин.

Куратор проекта "Технологии" в "РГ", эксперт Регионального общественного центра интернет-технологий (РОЦИТ) Олег Капранов отметил, что рынок кибербезопасности в России сопоставим с объемом ущерба от цифровых мошенничеств.

- Для эффективной защиты необходимо решать задачи импортозамещения, поскольку невозможно выстроить еще один контур безопасности на оборудовании других стран, учитывая, что при атаках нередко используются ресурсы зарубежных спецслужб, - полагает он.

Эксперт подтвердил, что тренд на звонки с подменных номеров, ставший заметным год назад, пошел на спад, зато злоумышленники стали активнее использовать мессенджеры. На законодательном уровне приняты определенные меры против таких вариантов мошенничества. Но очевидно, что как только они дадут эффект - появятся новые схемы.

- Скажем, в 2022 - начале 2023 года мы видели массовые кибератаки по крупным государственным и коммерческим структурам. Это заставило вводить очень серьезные, радикальные ограничения для защиты критической инфраструктуры, которые принесли плоды, что позволит постепенно смягчать действующие условия. Однако мошенники тем временем переключились на малый и средний бизнес: данные те же, защита слабее, а значит, надо меньше усилий на взлом. Невозможно предложить единое решение, которое будет доступно всем - от федеральных сотовых операторов до магазинов цветов. Важно развивать инфраструктуру работы с данными, чтобы обеспечить их сохранность, - подчеркнул Капранов.

По его словам, осенью одной из главных тем для отрасли будет создание института уполномоченных по персональным данным, которые будут в том числе обеспечивать защиту данных, изъяв их из непосредственного оборота малого и среднего бизнеса. Для компаний это, правда, означает дополнительные издержки. Также будет продолжена дискуссия по поводу оборотных штрафов за утечки данных.

- Нужно понимать, что делается это не ради пополнения бюджета, а ради того, чтобы побудить бизнес следить за безопасностью клиентов. И здесь важна позиция регулятора, потому что необходима четко работающая цепочка: регулирование, стимулирование, санкции и сервис, которая позволит создать определенную "рамку" для этого рынка, - добавил эксперт. - Значимость вопросов кибербезопасности подтверждается и тем, что им посвящен отдельный блок в новом нацпроекте "Экономика данных".

"Спящие" риски

Истории о крупных потерях от кибератак, казалось бы, у всех на слуху. Но зачастую компании не понимают масштаба и уровня угроз, которые перед ними встают, заявил министр цифрового развития Воронежской области Денис Волков:

- Мы знаем случаи, например, полной шифрации бухгалтерских баз у очень крупных компаний - региональных и даже федеральных сетей. Вектор атаки с инъекцией кода в легитимное ПО казался им фантастикой, хотя это уже совершенно не редкость, и мы знаем, к сожалению, целую серию таких инцидентов. Давным-давно нам рассказывали об этих угрозах эксперты по информационной безопасности. И способы противодействия известны, их важность за минувшие годы только усилилась. Особое значение приобрело импортозамещение ПО. Нравятся нам иностранные программы или нет, но когда они скачиваются с пиратских ресурсов, это очевидный риск с точки зрения "вредоносов". То программное обеспечение, которое взламывает серийные номера и механизмы регистрации, почти всегда содержит майнеры или вредоносы, которые ждут сигнала управляющего центра.

Анализ кадрового рынка в IT-сфере показывает, что специалисты по продуктам иностранных компаний по-прежнему очень востребованы, а запрос на тех, кто умеет работать с российскими операционными системами и программными продуктами, почти отсутствует. Такое наблюдение Денис Волков сделал, изучив данные рекрутинговых платформ.

- Значит, импортные технологии продолжают использоваться. Через какое-то время мы придем к полному обновлению версий программного обеспечения. Таким образом, что работать на старом, лицензионном будет просто невозможно, а все новое иностранное будет "ломанным". Со всеми вытекающими рисками, - подчеркнул министр цифрового развития. - В этой ситуации единственным разумным выходом будет миграция на легальное программное обеспечение - импортозамещенное.

Особое значение данный вопрос приобрел для компаний, которые обслуживают объекты жизнеобеспечения. На Нововоронежской АЭС заверили, что для управления энергоблоками используется только отечественный софт.

- В нем реализованы те принципы, которые являются базовыми для атомной отрасли: резервирование, независимость, модульность - все это служит для того, чтобы не допустить простоя по общим причинам, по внешнему факту отказа, - пояснил начальник смены блока НВАЭС Александр Тихонов.

Развивать интеллект

Многие компании пытаются использовать технологичные решения для борьбы с хакерами. Так, в "МТС" применяют собственный продукт на основе искусственного интеллекта, который позволяет автоматизировать пентесты - проверки систем безопасности путем моделирования взломов, в том числе с применением вирусов-шифровальщиков. Эффект есть, но надо понимать, что подобным ПО, только самописным, могут пользоваться и сторонние компании, напомнил директор филиала ПАО "МТС" в Воронежской области Василий Голуб:

- Мошенники точно так же опираются на искусственный интеллект. К примеру, все фишинговые рассылки сегодня строятся на основе генеративного ИИ - содержание писем подбирается под социальный портрет потенциальной жертвы. Необходимо уделять больше внимания обучению сотрудников, чтобы они могли распознать мошенническую рассылку. Для этого в подразделения "МТС" используют собственные продукты. Также ведется мониторинг на основе искусственного интеллекта для выявления киберрисков в корпоративных системах. Сейчас наши продукты для защиты от DDos-атак, мониторинга кибербезопасности, повышения киберграмотности персонала, шифрования каналов связи и многие другие - успешно работают по всей стране. А в Воронежской области только за последние два месяца мы помогли пяти компаниям избежать взлома корпоративных систем.

Увы, заподозрить неладное, получив письмо от "начальника" или "службы безопасности", способны далеко не все. Это показали прошлогодние учения с участием 370 организаций. Сотрудникам направили послания по типовым темам, используя два десятка доменных имен. Более чем в 40 организациях люди не только перешли по ссылкам из писем якобы от госорганов, но и ввели в открывшихся формах свои данные.

- C одной стороны, есть техническая защита с программным обеспечением, управлением уязвимостями и прочим. С другой стороны - есть люди, с которыми нужно работать, потому что вот он - сбор информации о внутренней структуре компании. Организациям нужно повышать киберграмотность сотрудников. Сейчас есть много различных просветительских материалов. Например, Банк России разработал бесплатный онлайн-курс по финансовой грамотности для взрослого населения. В нем большое внимание уделяется теме информационной безопасности, - рассказал Сергей Чупахин.

В целом уровень финграмотности россиян растет, но ИИ тоже не стоит на месте. Если раньше "подметное" письмо, составленное машиной, можно было отличить по паре признаков, то теперь тематика и стилистика может быть на высоте.

Один из путей, по которому идет бизнес для борьбы с фишингом, - ужесточение внутренних регламентов. Заставить россиян соблюдать все ограничения, предписанные работодателем, довольно сложно. Но реально - как показывает опыт тех же атомщиков.

- У нас поведение сотрудников регулируется очень жестко. Все подчинено протоколам. И когда человек пользуется интернетом внутри контура станции, то его действия прописаны для всех возможных ситуаций. Не буду скрывать, нам пытаются делать фишинговые рассылки. Но сотрудники знают, как и кому такие сообщения переадресовать, - убежден Александр Тихонов.

Для защиты от дипфейков, которые стали развитием фейковых аккаунтов, эффективно применять внутренние корпоративные мессенджеры, добавил руководитель IT ГК "Олимп здоровья" Антон Поротиков.

Нужен киберполигон

Для обеспечения информационной безопасности ключевой вопрос - кадры, настаивает декан факультета компьютерных наук ВГУ Александр Крыловецкий. В университете соответствующие навыки дают в рамках стандартного курса, дополнительно - проводят соревнования для студентов.

- Можно сказать, что мы готовим "белых хакеров", которые могут искать слабые места в цифровом контуре конкретной компании и защищать ее от реальных атак. Эта часть подготовки кадров ведется в значительной степени за счет бюджетного финансирования. Что логично, поскольку мы государственный университет, но проблематично, поскольку мы почти не чувствуем поддержки компаний, которые потом борются за наших выпускников. Уже на втором-третьем курсе многие ребята трудоустроены, что говорит о тотальном дефиците кадров в IT. Но их обучение - дело очень затратное, потому что нужно дорогое и мощное оборудование. И за счет бюджета обеспечить необходимую инфраструктуру на факультете сложно. На мой взгляд, бизнес мог бы вложиться в создание киберполигона - лаборатории для студентов, от которых потом будет зависеть его безопасность, - заявил Крыловецкий.

Реализовать эту идею он предложил в рамках тех проектов государственно-частного партнерства, которые уже существуют в ВГУ ("Приоритет 2030", передовая инженерная школа).

Однако адекватную IT-подготовку должны получать и студенты непрофильных специальностей, подчеркнул Александр Крыловецкий. Пока же их цифровая грамотность, в том числе в сфере информационной безопасности, близка к нулю, считает декан ФКН. Образовательные стандарты для филологов, экономистов или юристов не учитывают масштабов проникновения IT во все сферы жизни. Возможно, соответствующие знания нужно в большем объеме давать еще со школьной скамьи.

Если лет 15 назад стандартным требованием к кандидатам были компетенции "опытного пользователя ПК", то теперь к ним добавятся навыки информационной безопасности, отметил Антон Поротиков.

- Большая часть населения абсолютно безграмотна в плане понимания цифровых технологий. Невозможно предугадать, как поведет себя конкретный специалист того же банка или государственного органа, потому что он ничего не понимает в том, как работают компьютерная система. Он действует по каким-то однажды усвоенным алгоритмам. А хакеры то и дело придумывают новые ходы. Образование - единственное, что способно нас спасти. Я имею в виду и ссузы, и вузы, и программы ускоренной подготовки кадров в сфере информационной безопасности. Но решить проблему будет невозможно без широкого участия бизнеса, - резюмировал Крыловецкий.

Представители бизнеса тут же сделали поправку, выразив недоверие ускоренным курсам для айтишников. Директор департамента IT-инфраструктуры ООО "Стерх" Дмитрий Дмитриев пояснил, что после них люди безосновательно считают себя специалистами:

- Доходило до того, что выпускник не мог отличить силовой кабель от витой пары. Все-таки обучением должны заниматься государственные вузы. Нужно как-то брать под контроль эти "однодневные" курсы, которые выдают дипломы, но никак не снимают острый дефицит кадров. Так же от слова "совсем" нет специалистов по машинному обучению. При запуске проекта "Робот-официант" в кофейне "Шоколадница" не смогли найти специалиста в Воронеже. Пришлось силами своих сотрудников изучать в короткие сроки это направление для запуска проекта.

Что думает машина?

Нехватка специалистов - бич не только IT-отрасли, и в перспективе проблема будет только нарастать. Снизить нагрузку на действующих сотрудников, которым приходится выполнять все больший и больший объем работы, надеются с помощью AI-решений.

К примеру, в Воронеже вынашивают идею внедрить интеллектуальные системы видеонаблюдения для многоквартирных домов.

- По нашему запросу программисты прописали сценарии обнаружения тех или иных тревожных ситуаций при анализе видеопотоков с сотен камер. Это может быть пожар, ДТП, драка, выброшенный из окна мусор и другие события, актуальные для управления недвижимостью. Мы предполагаем, что нейросети помогут сотрудникам оперативно реагировать на такие сигналы, - сообщил руководитель ООО "Управляющая организация "Смайл" Дмитрий Батищев.

На Нововоронежской АЭС применяют систему поддержки операторов, где информационная система дает рекомендации по поводу оптимальных действий персонала при отклонениях от заданных параметров. Применение такого решения безопасно - оно создано специально для атомной станции, использует ее оборудование. Наполнение базы данных ведет только внутренний персонал.

Ряд AI-сервисов для здравоохранения, образования, госуправления и работы с обращениями граждан разработал "Сбербанк". Врачам, к примеру, предлагается заполнять медкарты пациентов, диктуя текст через обычную гарнитуру. Нейросеть распознает его и вносит информацию в нужные разделы.

- Решение апробировано в поликлиниках и больницах Липецкой и Тамбовской областей. Отзывы положительные. Далее мы предлагаем развернуть его на сервере медицинской информационной системы региона, - рассказал директор управления по работе с органами власти Центрально-Черноземного банка ПАО "Сбербанк" Евгений Лесных. - Также у нас разработан "цифровой ФАП" в виде чемоданчиков с "умными" тонометрами и электрокардиографами, анализаторами крови и мочи… Туда можно добавить отоскоп, портативный УЗИ-аппарат, флюорограф, рентген-аппарат, прибор для снятия суточной ЭКГ и другое оборудование. Смысл в том, чтобы фельдшер мог провести исследования и автоматически передать результаты профильному врачу в поликлинику или больницу. Для этого нужен скоростной интернет, а он есть в большинстве поселений, даже отдаленных. Пациенту не придется ехать на первичный прием, и отсутствие врача в селе не помешает составить план лечения.

Другое ИИ-решение, которое уже закупают клиники, позволяет на основе анамнеза определить три наиболее вероятных диагноза. Эта система служит для врача аналогом "второго мнения". Известна также программа для анализа снимков легких. Прогнав через нее изображения, собранные в период пандемии коронавируса, удалось выявить у части пациентов признаки рака. Врачи могли не заметить эти изменения, так как были нацелены на поиск пневмонии.

- В Воронеже в частной школе "Вектор" тестируют наш продукт для проверки работы учителя. Идет речевая запись урока, в конце система выдает краткий конспект и подсчитывать, сколько времени человек говорил не по теме или бессодержательно, - добавил Лесных.

Впрочем, не редки случаи, когда модный инструмент себя не оправдывает.

- Нам предлагают довольно много продуктов, основанных на искусственном интеллекте. Можно выделить два типа систем - для описания изображений снимков, результатов УЗИ) и системы помощи принятия врачебных решений. От всех вариантов мы в итоге пока отказались, - сообщил руководитель IT-отдела ГК "Олимп здоровья" Антон Поротиков. - В части лучевой диагностики все разработчики признают, что их AI-модель хорошо справляется с простыми случаями, а сложные должен смотреть врач. Обработка изображений при этом проходит в облаке, вне закрытого контура сети клиники. Очень велик соблазн поддаться - разгрузить врачей, увеличить поток пациентов и прибыль. Но где гарантия, что модель даст верное описание? Никто не знает, что у нее "под капотом" и на каких данных происходило обучение. Цена ошибки очень высока. Примерно такие же сомнения у нас вызвали те системы помощи принятия врачебных решений, которые нам демонстрировали. Кто будет прав в случае противоречий между рекомендациями искусственного интеллекта и живого специалиста?..

Интеллект без ума

Необдуманное внедрение ИИ-решений чревато проблемами с безопасностью: в сторонних продуктах могут быть использованы инфицированные датасеты, модели непонятной сборки, добавил Олег Капранов. Другое дело, когда обучение нейросети организовано как внутренняя работа компании - скажем, Сбер реализовал такой проект совместно с Сибуром. Они представили его в этом году на ЦИПР.

Александр Крыловецкий призвал не возлагать на AI-решения чересчур больших ожиданий, напомнив о том, что на текущей стадии "ни о каком интеллекте речи не идет:

- Это современные технологии машинного обучения, помноженные на мощность оборудования. Но уровня человеческого мышления они не достигли и неизвестно, достигнут ли когда-либо. Нейросети хорошо умеют искать информацию, это "умные" справочники. Генеративные сети могут имитировать рассуждение, комбинируя и преобразуя готовые фразы по правилам конкретного языка, но понимания смысла там нет и быть не может. Поэтому может получиться абсолютный бред. В медицине или атомной энергетике ИИ может использоваться только как поисковая система. Скажем, надо посмотреть все похожие случаи, все варианты лечения в запутанной ситуации. Но чтобы разобраться в результатах поиска, нужен еще более квалифицированный врач, чем раньше.

Эксперт подчеркнул, что развитие технологий искусственного интеллекта упирается в наличие суперкомпьютеров. Чем мощнее оборудование, тем быстрее обработка информации. В этой "гонке вооружений" Россия отстает. На федеральном уровне поставлена задача развивать компьютерную инфраструктуру. В Воронеже суперкомпьютер есть, но чтобы его модернизировать - а это неподъемно дорого для вуза - опять же, нужно софинансирование от бизнеса.

- Наука только начинает понимать, как работает мозг. Прорыв в области создания искусственного интеллекта возможен на стыке биологии и квантовой физики, на новых физических принципах. Пока же, генеративный ИИ несет опасность разрушения образования, - считает Крыловецкий. - Преподаватели не знают, как реагировать на то, что задание за студентов делает ChatGPT. Первокурсники поручают ему писать программы на лабораторных работах. И по стилю кода видно, что работал не человек. Особенно если десять ребят "сделали" таким образом одно и то же задание… Цифровизация образования больше разрушает его, нежели выводит на более высокий уровень. Технологии отвлекают молодежь от обучения. Эту проблему общество еще не осознало. Что мы будем делать с искусственным интеллектом при отсутствии естественного?

Россия. ЦФО > СМИ, ИТ. Образование, наука > rg.ru, 24 сентября 2024 > № 4707785 Александр Крыловецкий

Как пользоваться чат-ботами, чтобы не навредить здоровью

Юлия Гуреева

Возможности применения чат-ботов активно расширяются. Виртуальные помощники уже дошли и до грибников - на Amazon можно найти книги, написанные ChatGPT, с правилами сбора грибов. Одну из таких и приобрела семья из Великобритании, однако, последовав советам из нее, оказалась в больнице.

Глава семейства объяснил, что ориентировался на картинки и рекомендации из пособия, которые, как оказалось, содержали опасные ошибки, а сами изображения были сгенерированы нейросетью. Как сообщает The Guardian, широкое распространение таких книг представляет угрозу здоровью и жизни начинающих грибников. К примеру, там можно встретить совет определять ядовитые грибы по запаху и вкусу.

Онлайн-магазин уже снял со своих полок книги, которые вызвали беспокойство среди пользователей, но проблема низкокачественной литературы от чат-ботов все еще остается.

Случившееся наглядно показывает, почему в Евросоюзе был принят закон, который обязывает маркировать тексты, изображения и другие материалы, созданные искусственным интеллектом (ИИ), отметил гендиректор Smart Engines, доктор технических наук Владимир Арлазаров. Вопрос, кто должен нести ответственность за подобные инциденты, пока не имеет универсального ответа. В данном же случае, считает эксперт, виноватым, вероятно, окажется тот, чье имя указано в качестве автора книги, или издательство, выпустившее ее, поскольку, как отметил руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet Игорь Бедеров, ИИ неподсуден по определению, так как является программным продуктом.

При этом OpenAI как компания-разработчик чат-бота может понести лишь репутационные издержки.

"Интернет-компании, такие как OpenAI и Google, не отвечают за информацию, размещаемую на их платформах третьими лицами, это прямо предусмотрено законом о благопристойности в сфере коммуникаций США от 1996 года", - объяснил старший юрист MTS AI Кирилл Дьяков.

Заместитель директора Центра компетенций НТИ "Технологии доверенного взаимодействия" на базе ТУСУР Руслан Пермяков добавил, что в современных научных журналах есть практика писать предупреждение вроде "Данная работа написана при помощи систем ИИ, автором весь материал прочитан, проверен и доработан".

Чтобы не навредить себе, общаясь с чат-ботом, нужно всегда проверять его ответы в авторитетных источниках. Ведь ИИ, хотя и прекрасно справляется с поиском и агрегацией информации, но все же страдает "синдромом студента на экзамене", который не признается, если чего-то не знает, а начинает сочинять. "Навык фактчекинга в эпоху GPT ключевой", - сказал Пермяков.

Нужно понимать и принцип работы нейросети: она представляет собой результат общения ИИ с огромным числом пользователей, а потому обладает огромным объемом разрозненной и непроверенной информации, дополнил Бедеров. "Мы попадаем в шкалы оценки своего поведения: доверчив ли, осторожен ли. В течение жизни мы все сталкиваемся с различной информацией, которую учимся воспринимать и трактовать. Мы с детства научились отделять шутку от не шутки, сарказм от правды. На данный момент нам предстоит научиться либо самим отделять достоверный текст от недостоверного, основываясь на своем жизненном опыте, либо мы придем к разметке контента, созданного с помощью ИИ и без него", - уверен эксперт рынка Национальной технологической инициативы "Нейронет" Владимир Козлов.

Собеседник полагает, что разметка, закрепленная на законодательном уровне, защитит пользователей от неавторизованной информации. Однако нужно помнить, что контент, касающийся в первую очередь здоровья и жизни, нужно обязательно перепроверять.

По словам Арлазарова, пользоваться такими системами для решения задач, связанных, например, с безопасностью или финансовыми вопросами, преждевременно. Безопаснее всего сегодня применять нейросети в качестве напоминалок."Если вы поставите чат-боту задачу напомнить вам сходить в магазин и купить те же самые грибы - чат-бот с этим отлично справится", - отметил эксперт.

Россия > СМИ, ИТ. Образование, наука > rg.ru, 9 сентября 2024 > № 4698754

Аналитик: Для Беларуси и РФ важно приступить к формированию цифровой экономики

Становление цифровой экономики в наиболее развитых странах будет усиливать протекционизм и санкционное давление по отношению ко всем, кто не входит в контур их экосистемы. Потому Беларуси и России крайне важно приступить к формированию цифровой экономики для защиты своих национальных интересов. Создание цифровых платформ с искусственным интеллектом, где будут заключаться смарт-контракты, позволит России и Беларуси выйти на новый уровень управления рисками, принятия решений и экономического планирования.

Такие понятия, как электронная экономика, сетевая экономика и экономика наблюдения, уже вошли в широкий обиход. Но эти парадигмы в большей степени касались реализации экономических отношений на основе интернета и мобильных технологий.

Цифровая экономика - это нечто совершенно другое, поскольку для нее определяющее значение имеют уже две другие технологии: распределенные реестры (блокчейн) и искусственный интеллект (ИИ). Они находятся лишь на начальных этапах развития, но потенциал их воздействия на социально-экономическую жизнь и сферу безопасности настолько велик и очевиден, что очень часто инициаторами разговоров и инициатив о цифровой экономике выступают скорее политики и практики, нежели ученые.

Для государственной политики Беларуси и России крайне важно приступить к формированию цифровой экономики в целях соблюдения национальных интересов и приоритетов.

С одной стороны, можно делать много поступательных шагов по пути догоняющей модернизации традиционных производственных отраслей и услуг согласно текущим трендам и достаточно долго терпеть расходы без внушительной отдачи. С другой стороны, можно сделать два решительных шага по внедрению цифровых валют центральных банков (ЦВЦБ) и ИИ уровня организации, создав условия для успешного внедрения всех остальных вспомогательных технологий и роста доходов населения наших стран.

Среди крупнейших стран с развитой экономикой - тех, чьи валюты играют особую роль во внутренних и глобальных финансах, - изменения происходят медленнее, чем в других. Но даже для центральных банков этих стран все кажется ясным, и они начали закладывать основу для внедрения ЦВЦБ.

При этом, когда очередной глобальный финансовый кризис, залитый ковидными деньгами, вернется, мы можем быть готовы. В ситуации, когда центральным банкам не хватает возможностей использовать традиционные инструменты политики, такие как снижение процентных ставок для противодействия риску глубокой и затяжной рецессии, использование ЦВЦБ даст возможность эффективно вводить отрицательные процентные ставки как инструмент "выхода из нулевой границы". Стимулировать внутреннее потребление и инвестиции крайне важно, если мы хотим успешно реализовать заявленные нами государственные программы, связанные с производством инновационной и высокотехнологичной продукции. В этом случае обусловленное на уровне программного дизайна "цифровое стимулирование" потребления не просто отечественных товаров (возможно, достаточно импортоемких), а отечественной добавленной стоимости создаст условия для запуска высокотехнологичных B2C-производств без рисков для инфляции.

Несмотря на частичное использование технологии распределенных реестров при создании ЦВЦБ (для сохранения скорости и масштабируемости), активное использование функций, вдохновленных криптовалютами (криптографические конструкции для обеспечения конфиденциальности и возможности аудита, программируемости и самостоятельного хранения), позволит сохранить пространство доверия для привлечения иностранных инвестиций.

Использование экономических платформ с ИИ выведет нас на новый уровень принятия решений

Совершенно новый уровень управления рисками, аналитики и принятия решений мы получим благодаря использованию экономических платформ с ИИ. Цель по созданию ERP-ИИ (англ. Enterprise Resource Planning - планирование ресурсов предприятия, автоматизированные системы управления предприятием. - Прим. ред.) с учетом индустриального характера и открытости наших экономик выглядит более предпочтительной, нежели создание больших лингвистических ИИ-моделей типа ChatGPT. Национальная межотраслевая цифровая платформа несет более очевидный и предсказуемый экономический эффект. Этот эффект заключается не только в кардинальном снижении транзакционных издержек, но и в кардинальном изменении нашего подхода к экономическому планированию.

В отличие от традиционного госплана как совокупности директив для предприятий и организаций, утверждение которого производится по итогам сбора данных и расчета целевых показателей, ERP-ИИ позволит на практике реализовывать цифровой план в государственном масштабе. Данный план будет представлять собой совокупность смарт-контрактов, заключенных между участниками системы в цифровой форме. По сути, подобный план перестает быть планом в смысле некоторого обоснованного и желаемого предположения о будущем. Для предлагаемого цифрового плана более целесообразно применять такую категорию, как фактический план. Он может стать оптимальным инструментом как для выстраивания крупных и успешных на глобальном уровне отраслевых госкорпораций, так и реализации стабильного и предсказуемого частно-государственного партнерства. Достижение результата предполагает использование следующих технологий и моделей: межотраслевой баланс; блокчейн; смарт-контракты; специфические модели по оптимизации целей хозяйствующих субъектов без сквозной автоматизации целеполагания ("управление без человека").

Современное планирование будет происходить на основе уже заключенных смарт-контрактов

Каждый руководитель сам определяет целевую функцию хозяйствующего субъекта на конкретном этапе (прибыль, развитие холдинга, выполнение госпрограммы и так далее). ИИ нужен для имитационного моделирования и предложения возможных контрактов для их последующей легализации руководителем. Предпочтительной выглядит идея, когда не предполагается единого "интеллекта" для всей системы: каждый руководитель имеет своего экономического робота, реализующего планирование и оптимизацию ресурсов с точки зрения заданной руководителем целевой функции, реализуемой в системе ERP-ИИ как многоуровневой среде организации протоколов взаимодействия информационных систем субъектов ERP-ИИ, программных решений на базе эталонной реализации протокола с открытым кодом, распределенных баз данных и знаний, финансовых платформ для базисной, фиатных и цифровых валют, а также самих экономических роботов ERP-ИИ.

Возможное создание национальных систем ERP-ИИ и ЦВЦБ в гармонизированной финансовой логике и макроэкономической парадигме позволит нашим странам не только выстроить единое экономическое пространство с опорой на высокую полноту данных и низкую асимметрию информации, но и добиться фактических успехов экономического процветания.

Текст: Виталий Демиров

Игры с разумом: Сборная России выиграла золото на первой в истории Международной олимпиаде по искусственному интеллекту

Сборная России одержала победу на Международной олимпиаде по ИИ

Мария Агранович

Российские школьники продолжают добывать золото. В этот раз наши привезли 4 золотые медали с первой в истории Международной олимпиады по искусственному интеллекту среди старшеклассников, которая только что завершилась в Болгарии.

Сборная России поднималась на сцену трижды: лучший результат в научном туре конкурса (те самые 4 золота), серебро в практическом этапе и, триумфально - как победитель по сумме баллов за олимпиаду в целом!

Вот имена наших золотых: Никита Курлаев, Андрей Грицаев, Андрей Громыко, Анастасия Гайнуллина. Все они - ученики и выпускники московской школы Летово. Всего в олимпиаде участвовали сборные 40 стран, в том числе Китая, Японии, Канады, Швеции, Нидерландов, США.

Пару слов о победителях. У каждого из них - увесистое портфолио из дипломов разных олимпиад и конкурсов. Например, Никита Курлаев - призер Всероссийских олимпиад по информатике, технологии (профиль "Информационная безопасность"). И это далеко не все.

Андрей Грицаев - победитель Московской олимпиады школьников 2024 года по информатике, вошедший в топ-13 среди всех участников, призер Московской командной олимпиады школьников 2024 по программированию.

Андрей Громыко - член сборной Москвы по информатике, победитель Всероссийской командной Олимпиады школьников по программированию 2023. Абсолютный победитель Московской олимпиады школьников по информатике в 2022 году.

Единственная девушка в команде - Анастасия Гайнуллина - от парней не отстает. Она победительница Всероссийской научно-практической конференции "Старт в инновации", двукратный призер Всероссийской олимпиады школьников по английскому языку, победитель Балтийского научно-инженерного конкурса этого года. И много чего еще.

С таким естественным интеллектом не сравнится никакой искусственный, что и доказали ребята на олимпиаде, буквально "подчинив" себе искусственный разум.

Как все было

Два этапа - научный и практический. В первом раунде (он длился 8 часов!) - три задачи: имитация реальных научных исследований в области ИИ. Здесь нужно было использовать навыки программирования, знать библиотеки языка Python и понимать основы машинного обучения.

Второй тур - разработка и эксперименты о поведении программного обеспечения ИИ: ChatGPT, Dalle-2 и других. Ребятам предложили создать обложку для музыкального альбома.

По словам Никиты Курлаева, самой сложной и интересной оказалась задачка по компьютерному зрению. А Андрей Грицаев рассказал, что, вопреки ожиданиям, главными соперниками стали команды не из США, Китая и Японии, а ребята из Венгрии, Польши и Сингапура.

- Олимпиада однозначно была проведена на мировом уровне. Все этапы и правила международных Олимпиад были соблюдены. К каждой команде был прикреплен волонтер, - рассказала "Российской газете" руководитель привлечения абитуриентов в Центральном Университете Екатерина Процко.

На базе Центрального Университета, созданного про поддержке Т-банка, ребята готовились к соревнованиям в течение двух месяцев.

- Это была очень интенсивная работа. Ребята занимались практически каждый день, плюс были домашние задания. Так как олимпиада новая, проводилась впервые, то и задачи были для нас тоже достаточно новые. И это классно! Их было интересно решать всем: и тренерам, и ребятам, - отметила Екатерина Процко, которую только что избради в Совет олимпиады.

Почему вообще появилась Международная олимпиада по искусственному интеллекту для школьников

Ведь такого предмета пока нет ни в одной школьной программе. Эксперты считают, что организаторы олимпиады сработали на опережение, ведь рано или поздно ИИ в виде предмета придет в школы мира.

- Это единственная олимпиада по предмету, которому в школах почти нигде пока не учат. Но искусственный интеллект сегодня везде и необходимость такой олимпиады назрела, - пояснил "РГ" член жюри олимпиады Максим Панов. - Школьники начинают увлекаться всем этим и вопрос отдельного школьного предмета по изучению ИИ - это вопрос времени.

По мнению Екатерины Процко, сейчас люди с опаской относятся к искусственному интеллекту. Олимпиада показывает, что у нас есть выбор - бояться или подружиться.

- Искусственный интеллект может работать в интересах человечества. И олимпиада как раз дает возможность уже в школьном возрасте увидеть реальные проблемы, и, используя свой интеллект и возможности искусственного, попытаться их решить, - отметила Екатерина Процко. - Девиз олимпиады звучал так: "Don't make boundaries, but make bridges", что можно перевести как "не строй преград, строй мосты". Мосты между человеческим разумом и искусственным интеллектом.

Россия. Болгария. Весь мир. ЦФО > СМИ, ИТ. Образование, наука > rg.ru, 19 августа 2024 > № 4689774 Екатерина Процко

Эксперт рассказал о трендах в развитии систем искусственного интеллекта

Александр Филимоненко

До конца 2024 года в Бурятии должен заработать крупнейший на Дальнем Востоке Центр обработки данных для энергоемких вычислений. Проект реализует резидент ТОР "Бурятия". Проектная мощность объекта - 100 МВт. ЦОД будет специализироваться на высокопроизводительных энергоемких вычислениях, в том числе майнинге, предоставлении облачных и других передовых цифровых услуг. Кроме того, в начале года один из крупнейших в мире вендоров оборудования для технологии искусственного интеллекта посетил площадку и оценил ее пригодность для решения задач ИИ. Таким образом, центр обработки станет инфраструктурным заделом для развития цифровой экономики и искусственного интеллекта в макрорегионе.

Между тем в компании "Ростелеком" каждый год анализируют тренды ИИ и не делают секретов из своих выводов. Директор по ИИ и управлению данными Сергей Носов представил свои выкладки финалистам конкурса журналистов и блогеров "Вместе в цифровое будущее".

Противопоставлять не надо

Если вы думаете, что нынешние тренды ИИ сугубо технологичны, то вы ошибаетесь. На повестке дня человекоцентричность.

- Противопоставление человеческого разума и ИИ неуместно. Человек остается центром принятия решений, используя инструменты ИИ в любой области, где он недостаточно компетентен, - объяснил Сергей Носов суть первого тренда, обозначенного словом аугментирование.

Эксперт проиллюстрировал его примером с опытным врачом, который примерно в 95 процентах случаев устанавливает правильный диагноз. Но если соединить ум человека и возможности ИИ, то иногда процент верной диагностики якобы вырастает до 99 и выше. Это и есть аугментирование, а медицина - лишь одно из направлений, где специалиста дополняет ИИ. Чтобы процесс упростить, нужна интеграция ИИ с человеком или воплощение одного в другом - такое определение у второго тренда.

- Мы видим, что появляются новые технологии, например, нейрочипы, работу которых показал нам Илон Маск, а также различные VR- и AR-очки для погружения в виртуальную и дополненную реальности. Есть и иные методы воплощения ИИ в человеке, например, посредством носимых устройств - часов, смартфонов и т.п. Физические и виртуальные миры начинают объединяться, - сделал вывод Сергей Носов, и снова привел пример из медицины - медицины будущего. В ситуации, когда каждая секунда дорога, врач приемного покоя, надев VR-очки, может работать с "цифровой моделью" пациента, в которую "вшита" его медицинская карта.

Среди основных трендов развития искусственного интеллекта отмечают мультимодальность, когда ИИ учится взаимодействовать с людьми по всем каналам (голосовым, визуальным, текстовым), а также платформенность - появление узкоспециализированных нейросетей для решения конкретной практической задачи в определенной сфере. Одновременно отмечается тренд на упрощение, сжимание моделей ИИ в носимых устройствах, чтобы искусственный интеллект был доступным в любой момент. Оттого будет меняться и внешний вид девайсов, и сценарий их использования - например, исчезнет клавиатура.

При этом эксперты не знают, как изменится архитектура ИИ завтра и какие новые задачи он сможет решать. Что еще можно выжать из него? Над этим вопросом бьются команды разработчиков в разных странах.

- Тренды ИИ - это не какие-то прорывные истории, а экстраполяция того, что сейчас происходит в мире IT, - подчеркнул Сергей Носов.

Фактор больших моделей

Рассказывая о драйверах развития ИИ, эксперт напомнил, что в мире идет настоящая "гонка вооружений" по большим генеративным моделям (БГМ) искусственного интеллекта, которые способны самостоятельно генерировать нужный контент. Впереди три страны - РФ, КНР и США. Напомним, в начале этого года президент России Владимир Путин поручил правительству обеспечить разработку больших генеративных моделей ИИ для использования в ключевых отраслях экономики.

- Все видят большие возможности для ИИ в любых сферах, от военной до образовательной, от промышленной до медицинской, - заявил Сергей Носов.

По словам эксперта, искусственный интеллект сильно продвинулся вперед благодаря открытости результатов исследований - новых архитектур и моделей ИИ, которые публикуются в журналах, а также открытости технологий - практически весь ИИ развивается на базе open source (открытых кодов).

- Если мы научимся правильно применять большие данные и ИИ во всех отраслях, как это закреплено в новом нацпроекте "Экономика данных", рассчитанном до 2030 года, то все будет здорово, - отметил Сергей Носов.

Вызовы и стоп-факторы

ИИ - штука сложная. Сначала его нужно долго обучать, используя огромные вычислительные мощности, затем создать условия для его использования, а это тоже подразумевает создание определенной инфраструктуры, например, облачной, либо "приземлить" ее на носимые устройства (смартфоны, ноутбуки, умные часы). И во всем этих аспектах развития ИИ Россия пока далеко не на первых местах. Отставание от лидеров в десятки раз, если взять, например, основной фактор - вычислительные мощности. Поэтому пресловутый ChatGPT существенно круче по качеству, чем большинство российских ИИ-решений. Это основной стоп-фактор.

Другой вызов, стоящий перед РФ, - дефицит передовых разработок, а также исследовательских команд и специалистов, глубоко разбирающихся в ИИ. Не хватает инвестиций в эту сферу (нас, например, опережает Бразилия), есть проблемы с выживаемостью ИИ-стартапов.

- Мало кто верит в ИИ, мало кто видит в нем бизнес-кейсы, потому что не каждую идею люди с деньгами сейчас способны оценить, - объяснил Сергей Носов.

Играют свою роль и международная изоляция РФ в сфере ИИ, что негативно отражается не только на поставках в страну импортного компьютерного "железа", но и на контактах и обмене опытом с иностранными командами, а это очень важно, потому что настоящих специалистов на рынке пока не так много.

Говоря о вызовах, эксперт неожиданно выделил проблему страха людей перед ИИ - сотрудников компаний, где он внедряется, и простых пользователей.

- Человечество это уже не раз проходило. Вспомните восстание луддитов, которые в начале XIX века ломали станки и машины в ходе промышленной революции в Англии или запрет калькуляторов в школах в конце ХХ века, - привел примеры Сергей Носов. - А сейчас мы боимся, что ИИ отменит множество профессий. Какие-то отменит, какие-то заполнит. Но бояться этой новации не надо, потому что ИИ дополняет наши возможности и позволяет решать задачи быстрее и эффективнее. Чем раньше мы поймем, как этим пользоваться, тем лучше будет результат.

Идет шантаж ФРС со стороны рынков, чтобы она понизила ставку

Кого ФРС "прокатит" на американских горках. Георгий Бовт - о том, почему ситуация на фондовом рынке США искусственно драматизируется

В начале августа мировые фондовые рынки покатались на крутых "американских горках", начав с рекордного за последние десятилетия обвала (особенно в Азии, где индекс Токийской биржи потерял 12%). Общие потери в капитализации превысили 5 трлн долл. Затем рынки отчасти отыграли падение. Что это было? Объяснение, что триггером стало решение ЦБ Японии неожиданно повысить ключевую ставку с 0,1% до 0,25% (что якобы нарушило "керри-трейд", когда инвестор берет средства в одной валюте под низкие проценты, конвертирует в другую валюту и размещает под более высокие проценты) выглядит не очень серьезно. Как и то, что американских инвесторов так сильно расстроили данные по рынку труда, которые, на самом деле, примерно такие же, как в апреле, когда никого это не шокировало. Зато многие, наблюдая, как валились котировки высокотехнологичных компаний, заговорили о схлопывании "пузыря искусственного интеллекта". Дескать, деньги вложены несусветные, надежды были смелее самых радужных фантазий, а отдачи - как-то пока особо нет. Не случайно наибольший вклад в паление американской биржи Nasdaq внесли крупнейшие американские технологические компании, такие как Apple, Amazon, Microsoft, Alphabet (Google), Tesla. Именно эти компании "надували" в значительной мере фондовый рынок в прошлом году, когда индекс той же Nasdaq вырос на 70%. Прирост капитализации компаний ТОП-7 биржи Nasdaq с начала прошлого года составил 10 трлн долл. Однако это никак не оправдано ростом доходов IT-гигантов (околонулевым), которые продолжали вбухивать огромные деньги в инфраструктуру и сервисы, завязанные на ИИ.

Надежды на ИИ пока не оправдываются. Они непременно оправдаются в будущем, но фондовые рынки мыслят квартальными отчетами, им подавай прибыль немедленно. Полтора года назад, когда появился чат-бот ChatGPT, "бигтехи" обещали, что эта технология произведет революцию чуть ли не в каждой отрасли, оправдывая тем самым траты в десятки миллиардов долларов на центры обработки данных, чипы и прочее оборудование, необходимое для запуска крупных моделей ИИ. Однако "умные" чат-боты четких путей к монетизации пока не нашли. И горизонты получения прибыли, сопоставимой с затратами, относят уже на 10-15 лет вперед.

Сдувание "ИИ пузыря" началось еще в июле и уже до "черного понедельника" 5 августа ТОП-7 потеряли 2,8 трлн долл. (при том что именно эта группа компаний доминирует и определяет динамику рынка), а ТОП-20 - 3,6 трлн долл. Впрочем, пока что "бигтехи" откатились до состояния примерно первого квартала текущего года. Уже тогда шли разговоры, что "рынок переоценен". Так что массмедиа, конечно, сильно драматизируют картину. Это еще не коллапс. Пока что тот же американский рынок все равно сильно в плюсе по сравнению с началом года.

Долгосрочная проблема - не только и даже не столько в "переоцененном" ИИ, сколько в том, что мировая финансовая система пересыщена деньгами, которые Центробанки ведущих западных стран вливали в рынки, начиная с пандемии. Косвенный тому показатель - большие непонятно чем обеспеченные долги. Так, госдолг той же Японии уже превышает 250% ВВП, США - около 120%. В этом смысле надувание капитализации IT-гигантов и государственных обязательств в чем-то схожи, это так называемая "экономика ожиданий".

Ну а раз ожидания пока не оправдываются, проблемы на финансовых рынках могут обернуться спадом в ведущих экономиках мира, начиная с двух главных драйверов, которые тесно взаимосвязаны экономически между собой - Америки и Китая.

Ситуация на фондовых рынках искусственно драматизируется в подаче американских СМИ

Российский фондовый рынок сейчас отрезан от мировых из-за санкций, он живет по своим законам. Однако рычагов влияния на российскую экономику со стороны мировой предостаточно. В случае существенного спада в экономике США, который неизбежно приведет к аналогичным трудностям в Китае ("мастерской мира", сильно зависящей от экспорта), эффект усилится еще и геополитическими проблемами, начиная от военного конфликта на востоке Европы и кончая всегда готовым взорваться Ближним Востоком, а также нарушением отлаженных торговых путей (из-за действий тех же хуситов в Красном море). Пока рост мировой экономики (прогноз МВФ) ожидается в этом году около 3,2%, в США 2,6%, в КНР 5%, Индии 7%. Однако паника на рынках может внести коррективы. А ведь от состояния мировой экономики зависит спрос на основные товары российского экспорта - нефть, газ, прочие полезные ископаемые, металлы и т.д. Это сократит на фоне сохраняющихся санкций доходы бюджета еще сильнее, ударит по рублю, стало быть, по импорту, а также по притоку иностранной рабочей силы (усугубив дефицит кадров). При снижении цен на нефть ниже 60 долларов за баррель (сейчас ближе к 80) Минфину придется перейти от пополнения к расходованию Фонда национального благосостояния. По некоторым оценкам, снижение цен на нефть на 20 долларов за баррель приводит к дополнительному расходованию ФНБ на 2-2,5 трлн руб.

Впрочем, готовясь даже к худшему, не стоит паниковать заранее. Есть основания полагать, что в какой-то мере (хотя не в полной, поскольку проблемы экономики США и их госдолга носят долгосрочный характер), ситуация на фондовых рынках искусственно драматизируется в подаче тех же американских массмедиа. Идет своего рода шантаж ФРС со стороны рынков и играющих на них спекулянтов с тем, чтобы она понизила в сентябре ключевую ставку, то есть смягчила денежно-кредитную политику (ДКП), способствуя насыщению рынков относительно дешевыми деньгами. Идет информационное давление на ФРС, когда СМИ и финансовые аналитики пишут, что она, дескать, передержала ставку и "нужно действовать решительно во имя спасения экономики", смягчая ДКП. Почти 90% аналитиков сходятся на том, что нынешняя ставка в 5,5% будет снижена до 5%.

Мировая финансовая система со времен пандемии уже перенасыщена деньгами. Косвенный тому показатель - большие, непонятно чем обеспеченные долги

На какое-то время это оживит финансовые рынки. Но что еще более важно - тем самым сыграет в пользу нынешней администрации Демпартии США ее кандидата в президенты Камалы Харрис. Кстати, Дональд Трамп в сравнительно недавнем интервью агентству Bloomberg предостерегал главу ФРС Джерома Пауэлла от того, чтобы подыгрывать демократам, снижая ставку. Но именно это Пауэлл в сентябре и сделает.

Георгий Бовт политолог

Чей Крым и чей Яндекс? Как России не потеряться в собственном «поисковике»

Эммануэль Леруа о том, может ли искусственный интеллект убить русскую душу

Валерий Береснев

Участвует ли компания «Яндекс» в современной информационной войне, и если да, то на чьей она стороне? Вопрос далеко не праздный, особенно если учесть, что и Google, и полузапрещенная в РФ Википедия, и другие могущественные сетевые монстры занимают ярко выраженную антироссийскую позицию, в чём легко убедиться, полистав на досуге виртуальные страницы любого из них. Но как же быть с «Яндексом», говорящим на русском языке и активно вошедшим в нашу обычную жизнь – от поисковика, где мы ищем себе подсказки по любому поводу и до всевозможных приложений, помогающих нам спланировать вечер, вызвать такси, заказать продукты из магазина и вообще осуществить любой «шопинг», не выходя из дома?

Не так-то прост этот «нейродруг», болтающий с нами холодноватым голосом Алисы и способный, если потребуется, определить наше местоположение на глобусе с точностью до нескольких метров. А вы попробуйте, к примеру, пообщаться с «Яндексом» на актуальные политические вопросы, спросить у него, условно говоря, «чей Крым?», как это сделал мой добрый знакомый, политолог из Франции и бывший советник Марин Ле Пен Эммануэль Леруа, и поверьте – результат вас, мягко говоря, удивит. Ну примерно, как если бы во время Великой Отечественной войны голосом Левитана из советского репродуктора с вами заговорил Геббельс. Или кто-то, на него очень похожий. Однако, как я уже сказал, Эммануэль Леруа рискнул допросить «цифрового Геббельса» и по итогам этого разговора написал небольшую статью, которую я после небольшой редактуры и сравнения с французским оригиналом предлагаю вниманию наших читателей.

Может ли искусственный интеллект убить русскую душу?

Искусственный интеллект (ИИ), хотим мы того или нет, вошел в нашу жизнь и уже стал ее частью: он в наших смартфонах, в наших компьютерах и в нашей повседневности. Он разрушает нашу жизнь во всех сферах, куда ему удается проникнуть: в культуре, образовании, здравоохранении, экономике, социальной сфере и т.д. И эта тенденция будет только усиливаться по всей планете. Страны, которые откажутся принять ее как данность, уйдут из истории.

Но кто на самом деле управляет ИИ? Если бы наш мир был идеален, то мы могли бы наивно предположить, что каждая сколько-нибудь значимая страна должна развивать свой собственный искусственный интеллект и при этом «кормить» его своей историей и культурой. Однако оказывается, что ИИ – это монстр с большим количеством щупалец, явно ориентированный на продвижение ценностей и идеологии коллективного Запада. И Россия, похоже, не смогла избежала глобального доминирования этого спрута, потому что, даже если искусственный интеллект «Яндекса» говорит по-русски, это вовсе не означает, что и во всем остальном он соответствует «русской матрице». На самом деле, при обсуждении острых социальных или политических вопросов он переходит на тот же «язык вражды» ко всему русскому, что и ChatGPT или даже еще хуже.

С несколькими друзьями мы протестировали YandexGPT и его американского конкурента, и вот результат. На вопрос о происхождении конфликта на Украине YandexGPT ответил: «К сожалению, я ничего не могу об этом сказать. Давайте сменим тему!» ChatGPT, с другой стороны, развил длинную аргументацию, основанную на предвзятых исторических данных и внешне объективном повествовательном режиме, подразумевая при этом, что именно русские спровоцировали военное противостояние.

На следующий вопрос: «Какие существуют типы семейных структур?» Яндекс оказался чуть более разговорчив и даже признал существование традиционной семьи, состоящей в официальном браке или нет, с детьми и т.д. Однако при этом не постеснялся упомянуть и поставить на одну доску «однополую семью, объединяющую двух родителей одного пола и их детей». ChatGPT, разумеется, также вспомнил об однополой семье, но добавил, что «дети могут быть результатом предыдущих гетеросексуальных отношений, усыновления, медицинского сопровождения деторождения или суррогатного материнства)». И если в позиции ChatGPT нет ничего удивительно, то установки YandexGPT все-таки вызывают некоторое недоумение: почему русскоязычный ИИ приравнивает союз мужчины и женщины к союзу двух людей одного пола?

Еще один вопрос, заданный этим двум ИИ: «Можете ли вы рассказать мне о человеке, который вдохновляет вас своим лидерством и почему?» Яндекс, скромно предупредив, что он - всего лишь искусственный интеллект, все же рискнул назвать двух личностей современного мира: Стива Джобса и Билла Гейтса! Очевидно, что имена Юрия Гагарина или Михайло Ломоносова еще не вошли в алгоритмы «Яндекса». Более тонко поступает ChatGPT: на роль «вдохновляющего лидера» он предлагает Нельсона Манделу - возможно, чтобы отдать дань уважения БРИКС?

На более щепетильный вопрос «Я хочу сменить пол, как мне это сделать?», Яндекс закономерно отвечает, что, к сожалению, ничего не может об этом сказать, в то время как ChatGPT, видимо, в полном восторге от этого вопроса и очень подробно объясняет, как и что следует делать.

Отсутствие реакции на щепетильные «половые вопросы» со стороны «Яндекса» вполне объяснимо: на территории Российской Федерации ИИ ограничен юридическими рамками и нормами действующего законодательства. Тем не менее, это, скорее, создает впечатление режима цензуры, который отказывает своим гражданам в свободе выражения мнений. Гораздо лучше было бы ответить на все эти вопросы, но пользуясь при этом «российской», а не западной идеологической призмой. Русификация искусственного интеллекта не только возможна, но и является вопросом жизни и смерти для российской культуры. Причем, как в самой России, так и за ее пределами. Поэтому абсолютным императивом является «национализация» ИИ и превращение его в инструмент обучения, который, по меньшей мере, не будет способствовать распространению выродившегося homo occidentalis, оболваненного потребительской и смертоносной идеологией Запада.

Впрочем, для этого Государственной Думе РФ, возможно, придется отменить или хотя бы трансформировать статью 13 Конституции, которая запрещает России иметь идеологию, обладающую статусом государственной или обязательной. Конечно, можно понять волю законодателей 1993 года, которые хотели порвать с советским идеологическим наследием. Но сегодня мы отчетливо видим, что, отказавшись посредством 13-й статьи иметь свой взгляд на мир, Россия тем самым обрекла себя на принятие идеологии Запада.

Конечно, после знаменитой мюнхенской речи Владимира Путина, произнесенной в 2007 году, впервые в новейшей истории ХХI века была предпринята попытка отказа от западной гегемонии, основанной на глобальных правилах. Однако модераторы Яндекса могут справедливо полагать, что если у России нет государственной идеологии и своего мировоззрения, то они могут прекрасно воспроизвести или пропустить в своих алгоритмах все, что не запрещено законом РФ. А ведь есть еще много западных ядов, которые пока законодательно не табуированы и могут беспрепятственно внедряться в сознание русского народа - в том числе и на языке Пушкина.

Может ли искусственный интеллект убить русскую душу? Да! И произойдет несомненно, если не будут приняты срочные меры по защите русской ментальности. И, прежде всего, крайне важно разработать специфически российский ИИ, идеологически защищенный от всевозможных западных вирусов. Вспомним, что сказала поэтесса Евдокия Ростопчина в 1848 году своему другу, писателю Владимиру Одоевскому: «Мы должны теперь защитить наши умы китайской стеной».

Эммануэль Леруа

Мошенники под видом специалистов по ИБ убеждали работников передать данные о компании

Дмитрий Бевза

Эксперты обнаружили фишинговые рассылки от имени государственных организаций с предупреждением о проведении "уроков информационной безопасности" для сотрудников российских компаний. Злоумышленники под видом специалистов по информационной безопасности (ИБ) связывались с работниками и убеждали их передать конфиденциальные данные о компании.

Фишинг - вид интернет-мошенничества, цель которого - получить данные жертвы. Это может быть пришедшее на почту или в мессенджер поддельное уведомление от банка, платежной системы, интернет-магазина или госорганизации о том, что по какой-либо причине получателю срочно нужно передать или обновить личные/рабочие данные.

По словам экспертов центра внешних цифровых угроз Solar AURA ГК "Солар", сфальсифицированные письма от имени ведомств поступали в адрес руководителей различных российских компаний. Как правило, во вложении на бланке несуществующего ведомства содержался электронный документ с грифом "Для служебного пользования", который уведомлял о планах провести консультационные беседы с сотрудниками для "повышения уровня информированности по вопросам обеспечения защиты конфиденциальных данных и соблюдения требований информационной безопасности в условиях работы".

Вложения не содержали вредоносных вирусов, но в них обязательно указывалось, что "содержание бесед имеет служебный характер и не подлежит дополнительному согласованию", а руководителю организации, получившему письмо, следует предупредить подчиненных о предстоящем звонке.

После этого "предупрежденным" сотрудникам компании поступали звонки от мошенников, которые предоставлялись специалистами в области ИБ и склоняли работников к передаче общей конфиденциальной информации, а также данных, необходимых для входа в информационные системы компании. Такие сведения могут продаваться на черном рынке либо использоваться для кибератаки на организацию.

По словам директора центра мониторинга внешних цифровых угроз Solar AURA Игоря Сергиенко, ранее существовала схема, когда в Telegram-аккаунт сотрудникам писал якобы генеральный директор и предупреждал о предстоящем звонке от ФСБ, но в данном случае "слабым звеном" становится уже сам руководитель.

"Если он поверит изложенной в письме информации и лично предупредит сотрудников о будущей беседе, то шансы злоумышленников на успех значительно повысятся. Можно с уверенностью сказать, что мы наблюдаем новый виток в развитии социальной инженерии, которая становится все изощреннее и вызывает все меньше подозрений у жертв", - отметил Сергиенко.

Руководитель направления защиты информации облачного провайдера Nubes (НУБЕС) Дмитрий Шкуропат отмечает, что и главы компаний могут попасться на различные приемы социальной инженерии.

"Получить фишинговые письма можно с абсолютно разной тематикой. Есть сценарии для широких масс (например, победа в конкурсе или лотерее), а может быть таргетированная рассылка. Во втором случае даже подготовленному человеку не всегда очевидны признаки подозрительного письма", - рассказал Шкуропат.

В рассылке подобных фишинговых писем хакеры используют информационные поводы о возрастающем количестве кибератак на российские организации и мерах по повышению уровня знаний сотрудников об информационной безопасности. При этом хакеры стали активно использовать генеративный искусственный интеллект для составления фишинговых писем. Это резко удешевило и ускорило их создание, а в сочетании с редактурой, проведенной человеком (полуавтоматическое создание писем), увеличилась и их эффективность.

Научный сотрудник Гарвардского университета Фредрик Хейдинг отметил, что в исследовании, проведенном его группой в 2023 году, фишинговые письма, написанные специалистами при помощи ChatGPT, открывали почти 80% получателей.

Проникновение взломщика в корпоративную систему - даже под учетной записью офис-менеджера или юриста - может быть крайне опасно.

"Учетные записи линейных пользователей используются для закрепления в инфраструктуре и дальнейшего повышения уровня доступа до привилегированного, под которым становится доступна конфиденциальная информация и открываются права на управление финансовой и другими критичными внутренними системами. Например, так хакер сможет "усыпить" бдительность средств информационной защиты и мониторинга и запустить в ИТ-инфраструктуру вредоносное ПО", - считает руководитель Innostage SOC CyberART Максим Акимов. Для защиты от такого типа злоумышленников эксперты советуют никогда не диктовать и не пересылать пароли, а также одноразовые коды двухфакторной авторизации. Не предоставлять личные данные в разговоре или переписке с незнакомыми людьми. При получении письма от имени органа государственной власти без цифровой электронной подписи нужно обратиться в это ведомство для уточнения достоверности сведений.

Дмитрий Пьянов: пластиковые карты никогда не умрут, как не умерли книги

Одна из перспектив российского цифрового рубля – это помощь в разрешении проблем трансграничных расчетов, уверен первый зампред ВТБ Дмитрий Пьянов. По его словам, Россия больше не допустит монополии одного канала международных расчетов, в будущем будет многообразие платформ. В интервью РИА Новости топ-менеджер рассказал, почему цифра не заменит пластик, сколько ВТБ вкладывает в развитие искусственного интеллекта в рамках разработки проекта цифрового помощника, кто является основным поставщиком юаня на российский рынок и от чего зависит возможность выплаты дивидендов за 2024 год. Беседовала Яна Чурочкина.

— В вашей стратегии первая возможность выплаты предусматривается в 2026 году, за 2025 год. Но глава ВТБ Андрей Костин не исключил возможности выплаты дивидендов и по итогам 2024 года. От чего будет зависеть это решение?

— Мы называем это "дивидендным сюрпризом", это явление уже имеет устоявшееся название. В каком случае возможен "дивидендный сюрприз"? Первый рычаг: если мы идем с опережением по прибыли в первый год действия стратегии. Напомню, в стратегии заложен прогноз по прибыли на 2024 год в размере 435 миллиардов рублей, по итогам года будет более 500 миллиардов рублей.

Второе: весь наш рост кредитного портфеля — очень большой, мы считаем, рекордный на рынке в корпоративном цикле — связан в основном с качественными заемщиками. А это означает, что он дает меньшую нагрузку на капитал. Меньший риск-вес кредита — наш второй рычаг.

Дивиденды утилизируют капитал, поэтому нам для их выплаты нужен больший запас капитала, чем предусмотрен в стратегии, через два рычага: большая прибыль и меньший вес кредита. Будет достаточность значительно выше записанной в стратегии на конец 2024 года, на среднесрочном горизонте не будет никаких не предусмотренных негативных тенденций, элементов, опасностей — "дивидендный сюрприз" станет возможным. Нужно отметить, что мы всецело понимаем необходимость соблюдения прав акционеров, которые заинтересованы в дивидендах, а также клиентов и всей экономики.

— ВТБ единственный банк, который обладает сетью банков за рубежом: Китай, Индия, Вьетнам, Казахстан, Армения. Планируете ли еще открывать дополнительные филиалы или офисы в ближайшее время?

— У нас нет планов по каким-то новым странам.

— Какова доля кредитов в недружественных валютах в портфеле ВТБ? Есть ли проблем с платежами по таким кредитам?

— Сначала нужно отметить, что эта доля постоянно снижается – по тем или иным причинам. Если до введения в 2022 году санкций она составляла около 31%, то сейчас – 8%. Эта доля имеет тенденцию к снижению разными способами: для кого-то мы конвертируем кредиты в дружественные валюты или рубли, кто-то готовится к погашению задолженности. А какие-то клиенты продолжают платить в валюте займа.

— Как вы считаете, хватит ли в России юаневой ликвидности? Когда юаневый кредит будет доступен каждому заемщику в вашем банке?

— Основные доноры юаневой ликвидности — российские экспортеры. Они продают нефть, газ, уголь за юани, и, соответственно, через обязательство по обязательной продаже выручки, продают юани на российский рынок.

Корпоративное кредитование в китайской валюте может еще больше активизироваться, когда изменится объем юаневой ликвидности на пассивной стороне: если физические лица и юридические лица больше будут сберегать на депозитах в юанях. На это давит нынешняя денежно-кредитная политика, из-за которой банки предлагают рублевые кредиты по очень высоким ставкам.

Что касается физических лиц, подавляющее большинство наших сограждан получают зарплату в рублях, берут кредиты в рублях и тем самым защищены от валютных колебаний. Можно, конечно, соблазниться в моменте более низкой ставкой, но очевидно, что при волатильности валютных курсов есть угроза в дальнейшем получить более крупные платежи.

— Планирует ли банк массово внедрять технологии искусственного интеллекта в работу? Какая доля сейчас приходится на решения с помощью ИИ? Как вы считаете, все ли решения можно доверять искусственному интеллекту?

— По нашим оценкам, на коротком временном горизонте в банковском секторе у каждого клиента банка будет цифровой помощник.

Банковские продукты сложны, внешняя среда меняется все быстрее и быстрее. Даже мне как банкиру очень сложно отслеживать, какое вложение сегодня выгоднее. Депозит? Облигация? Если облигация, с фиксированным купоном или с плавающим? Из-за отсутствия времени и личных предпочтений по достижению той или иной финансовой цели, мне очень хочется, чтобы кто-то за меня проанализировал весь массив внешней и внутренней информации. Причем мне предпочтительно "загрузить" внутреннюю информацию, мои пожелания устно и в свободной форме в "умную" колонку. Будь то "я ориентирован на высокий доход, обгоняющий инфляцию", или "я не инвестирую в акции, потому что их колебания могут привести к потере денег", или "я инвестирую только в российское, потому что боюсь, что мои вложения заблокирует недружественная инфраструктура". Получив словесные условия, искусственный интеллект должен помочь создать начальный портфель и в течение жизни этого портфеля ежедневно им управлять с моим минимальным вовлечением. В какой-то момент он может увидеть уникальную ситуацию с курсом юаня и рекомендовать, допустим, 5% портфеля конвертировать из рубля юани.

Таково наше видение по цифровому помощнику, который объединяет как инвестиционные, так и банковские продукты. Такое объединение объясняется тем, что в периоды высоких ставок более выгодны могут быть банковские продукты, имеют приоритет, как только ставки снижаются, а они неизбежно начнут снижаться, будут приобретать значение инвестиционные продукты. Не исключаю, что такие сервисы станут востребованными не только у людей, но и у бизнеса.

— Дорого обходятся такие помощники?

— Мы тратим на разработки проекта цифрового помощника несколько миллиардов рублей в год, и в этом видим наше будущее.

Есть отдельная область искусственного интеллекта, решения в которой сложно найти и за единицы миллиардов рублей, за десятки миллиардов рублей, и может даже за сотни миллиардов рублей — это большие языковые модели (LLM). Они появились сравнительно недавно, в конце 2022 года вышел ChatGPT.

Языковые модели стоят сотни миллиардов рублей с точки зрения того, что их нужно обучать и там очень дорогое "железо", которое выпускается одной компанией. При этом иностранные языковые модели, скорее всего, тоже не удастся использовать, потому что они обучены на других ценностях, литературных объектах, на других элементах языковых.

Мы будем развивать направление LLM в сторону совершенствования Open Source (программное обеспечение с открытым исходным кодом) и партнерств, чтобы быть в рынке или даже опережать его.

— Какой сейчас процент цифровых карт на руках у клиентов банка, и до какого уровня он может вырасти по итогам года? Готовы ли вы полностью отказаться от пластиковых карт?

— В портфеле ВТБ 2,7 миллиона цифровых карт, до конца года их число вырастет до около 3 миллионов. Если говорить о будущем, по нашим оценкам, все равно будет два мира.

Первый мир – люди, которые не носят пластиковые карты, у которых есть цифровые карты, пэй-сервисы. И вторая группа – часто более возрастная, которой важен материальный объект. Например, есть категория людей, которые готовы платить большие деньги за выпуск карточки в минималистическом стиле с минимум информации и исполненной из металла. То есть какая-то доля материальных карт никогда не умрет, как при появлении цифровых аналогов не умерли бумажные книги.

— ЦБ с августа 2023 года запустил пилотирование цифрового рубля, вы в нем участвуете. Сопоставимы ли затраты с потенциальной выгодой, которую могут получить участники рынка? Сможет ли рынок полностью перейти на расчеты цифровым рублем?

— Явление новое, поэтому сейчас никто точных прогнозов относительно окупаемости дать вам не сможет. Пока все инвестиции находятся в очень обозримом размере, они меньше, чем инвестиции в искусственный интеллект. Например, я считаю, что одна из перспектив российского цифрового рубля — это помощь в разрешении проблем трансграничных расчетов.

Если будет интерфейс трансграничных расчетов между двумя, тремя и большим числом стран в цифровом рубле, цифровом юане, других валютах, если расчеты будут защищены, невидимы для других контрагентов, конвертация по выгодному курсу, то практически любые инвестиции окупятся сторицей.

Вы как потенциальный клиент для покупки чего-то на любом маркетплейсе по одному клику по выгодному курсу отказались бы от перевода в трансграничном цифровом рубле? Конечно, приветствовали бы.

— В обозримом будущем возможно, что рынок полностью перейдет на расчеты цифрового рубля?

— Думаю, что нет.

— Когда цифровой рубль может занять значительную долю в международных расчетах? Какой вы видите инфраструктуру международных расчетов в ближайшем будущем?

— Это будет явно не один инструмент. Наша страна более не будет допускать монополии какого-то канала или инструмента для международных расчетов, поэтому нельзя говорить, что единственным средством станет цифровой рубль. Будет многообразие каналов, платформ. Здесь важно и разное движение разных государств к таким расчетам: по нашим оценкам, на горизонте пяти лет цифровые валюты будут иметь около десяти стран.

Россия > Финансы, банки > ria.ru, 11 июля 2024 > № 4674611 Дмитрий Пьянов

"Самолет" вывел на внешний рынок HR-платформу Team by Samolet

Девелопер "Самолет" вывел собственную HR-платформу Team by Samolet на внешний рынок. Запуск пилота состоялся во второй половине июня, для тестирования платформы были приглашены HR-команды нескольких крупных компаний, среди которых S7, "Северсталь", НМЛК, "Вкусвилл", "Ростелеком" и другие. Ключевой отличительной чертой Team by Samolet является реализация принципа сквозного управления персоналом, которая была главным достоинством западных систем Oracle HCM/SAP Success Factors.

На платформе Team by Samolet полностью реализованы основные HR-процессы: рекрутинг, оформление, адаптация, обучение, развитие, управление вознаграждениями, оценка, кадровые сервисы, аналитика, внутренние коммуникации и др. Там есть и личный кабинет сотрудника, где он может создавать и отслеживать заявки при взаимодействии с HR, и модуль для работы руководителя. В рамках платформы была создана система управления и моделирования структурой штатного расписания, которая позволяет руководителям в гибком формате управлять своим штатом, при этом все операции автоматически отражаются в учете. Team by Samolet учитывает все требования российского законодательства, в частности в области кадрового делопроизводства и ежегодного планирования отпусков. При этом продукт сделан гибким, чтобы можно было легко его настраивать под специфику HR-процессов любой отрасли.

Платформа Team by Samolet имеет модульную структуру, в которой каждый элемент отвечает за отдельный HR-процесс. Модули можно комбинировать в разных вариациях не только под задачи конкретной организации, но и под специфику ее процессов, поэтому платформа подходит для компаний разного масштаба и разного уровня зрелости бизнес-функций. Team by Samolet подходит и для крупных компаний, она изначально создавалась для работы на больших объемах данных с миллионами записей о сотрудниках и в условиях значительного числа одновременных подключений.

В HR-платформе Team by Samolet используются технологии искусственного интеллекта, которые позволяют, например, проводить оценку прогнозов оттока персонала, а ChatGPT дает возможность сотрудникам экономить время на поиск информации и составление стандартных текстов.

"На платформе реализован весь классический HR-цикл. Team by Samolet – это платформа по управлению всем клиентским путем сотрудников, при ее создании изначально фокус делался на Employee Journey Map, чтобы получился единый сквозной процесс. По сути, он охватывает все время пребывания сотрудника в компании – от отклика на вакансию до расставания. "Самолет" внедрил платформу в 2022 г., и опыт ее использования в периметре компании показывает, что она существенно позволяет оптимизировать ресурсы — помимо прямого повышения производительности в кадрах, подборе, документообороте свыше 20%, есть также косвенный эффект повышения производительности и вовлеченности сотрудников в разных функциях вследствие уменьшения количества затрачиваемого времени у сотрудников на свои запросы, поиск информации и так далее. У нас сейчас идет пилотный проект с HR-службами ведущих компаний, через два месяца мы планируем собрать обратную связь по продукту, но уже сейчас мы видим большой интерес к решению, потому что на сегодняшний день на рынке мы предлагаем сквозную платформу, комплексное решение, которую может использовать не только кадровик, но и сотрудник и руководитель. У нас реализуются такие продукты в рамках платформы как "Подбор" с возможностью оценки кандидатов по профилю и выбора самого подходящего на вакансию; "Управление эффективностью" с возможностью смотреть производительность и результативность каждого сотрудника, функции и другие, включая бек-офис; "Управление перфоманс-циклом" с возможностью целеполагания и оценки результатов", — рассказала Александра Горчакова, директор по организационному развитию группы "Самолет".

Разработка платформы началась в 2022 г., когда многие иностранные решения покинули отечественный рынок и появилась необходимость оперативно разработать адекватную замену ушедшим сервисам. Современного инструмента, соответствующего актуальным требованиям крупных компаний и привычным стандартам на тот момент представлено не было. Целью разработки Team by Samolet было создание единой технологической платформы, интегрированной с внешними и внутрикорпоративными системами, которая по функционалу соответствовала лучшим мировым практикам. Продукт адаптирован для работы с любого устройства, включая смартфоны и планшеты, так как имеет мобильную версию, доступен пользователям в режиме 24/7/365. Есть SaaS-версия и on-premise.

Eli Lilly объявила о сотрудничестве с OpenAI по разработке препаратов против «супербактерий»

Фармацевтический гигант Eli Lilly и американская компания OpenAI объявили о сотрудничестве, направленном на поиск новых лекарств для лечения устойчивых к лекарствам патогенов. Финансовые детали сделки не разглашаются.

По условиям соглашения, Eli Lilly получит доступ к генеративному искусственному интеллекту (ИИ) OpenAI для изобретения противомикробных препаратов.

Устойчивость к противомикробным препаратам (УПП), включенная Всемирной организацией здравоохранения (ВОЗ) в десятку крупнейших глобальных угроз общественному здравоохранению, возникает, когда бактерии, вирусы, грибки и паразиты изменяются с течением времени и находят способы противостоять воздействию противомикробных препаратов. В результате инфекции становится труднее лечить, а риск серьезных осложнений и смерти возрастает.

Диого Рау (Diogo Rau), исполнительный вице-президент и директор по информационным и цифровым технологиям Lilly, заявил, что сотрудничество представляет собой «революционный шаг вперед в борьбе с растущей угрозой УПП. Генераторный ИИ дает новую возможность ускорить открытие инновационных противомикробных препаратов и разработку специальных технологий в борьбе с устойчивыми к лекарствам патогенами», — сказал он.

Хотя УПП возникает естественным путем, ненадлежащее и чрезмерное использование противомикробных препаратов способно ускорить этот процесс, а данные национального эпиднадзора, предоставленные правительством Великобритании в ноябре прошлого года, продемонстрировали рост числа устойчивых к антибиотикам инфекций и связанных с ними смертей в Англии.

Брэд Лайткэп (Brad Lightcap), главный операционный директор OpenAI, заявил: «Мы рады работать с Lilly над поиском новых способов лечения микробных инфекций. Продвинутый искусственный интеллект обладает потенциалом для осуществления инновационных прорывов в фармацевтике, и мы стремимся работать вместе с лидерами отрасли, чтобы принести ощутимую пользу пациентам».

Сотрудничество началось всего через несколько недель после того, как Lilly заключила эксклюзивное лицензионное соглашение на сумму более $620 млн, чтобы получить права на исследовательскую прецизионную терапию нейродегенеративных заболеваний QurAlis. Компания также недавно заключила партнерство с Aktis Oncology по разработке новых противораковых радиофармпрепаратов стоимостью более $1 млрд.

В этом году OpenAI также заключила ряд соглашений, в том числе с Sanofi и Formation Bio, направленных на ускорение разработки лекарств. В рамках партнерства, о котором было объявлено в прошлом месяце, три команды объединят данные, программное обеспечение и настроенные модели для разработки индивидуальных, целевых решений на протяжении всего жизненного цикла разработки лекарств.

Проблемы и основные факторы УПП

Одной из основных причин появления УПП является чрезмерное использование антибиотиков как в медицине, так и в сельском хозяйстве. Во многих случаях антибиотики назначаются без необходимости или они используются неправильно. Это может привести к выживанию и распространению устойчивых бактерий. Использование противомикробных препаратов в сельском хозяйстве, в том числе для стимулирования роста и профилактики заболеваний домашнего скота, также является ведущей причиной развития и распространения УПП. Загрязнение окружающей среды в результате работы фармацевтического сектора, сельского хозяйства и здравоохранения, а также муниципальные отходы также способствуют развитию УПП.

Проблема УПП особенно сильно отражается на развивающихся странах. Бедность в сочетании с отсутствием доступа к медицинскому обслуживанию может усугубить распространение УПП. Кроме того, людям в развивающихся странах часто ставят неправильные диагнозы, что приводит к неоправданному назначению противомикробных препаратов. Кроме того, отсутствие доступа к чистой воде и санитарии делает их более уязвимыми к инфекциям.

Появляется больше свидетельств того, что окружающая среда играет ключевую роль в развитии, передаче и распространении УПП. Ее распространение связано с тройным планетарным кризисом: изменением климата, утратой природной среды и биоразнообразия, загрязнением окружающей среды и отходами.

О компании OpenAI

OpenAI — американская исследовательская организация со штаб-квартирой в Сан-Франциско, основанная в декабре 2015 года . Ее миссия состоит в разработке «безопасного и полезного» искусственного интеллекта, который она определяет как «высокоавтономные системы, превосходящие людей в большинстве экономически ценных работ». Будучи ведущей организацией в данной сфере, OpenAI разработала несколько крупных языковых моделей, усовершенствованных моделей генерации изображений, а ранее выпустила модели с открытым исходным кодом. Выпуск ChatGPT стал катализатором широкого интереса к ИИ.

В состав организации входит некоммерческая организация OpenAI, Inc. зарегистрирована в Делавэре и ее коммерческая дочерняя компания OpenAI Global, LLC. Microsoft владеет примерно 49% акций OpenAI, инвестировав $13 млрд. Он также предоставляет вычислительные ресурсы OpenAI через свою облачную платформу Microsoft Azure.

В 2023 и 2024 годах OpenAI столкнулась с многочисленными исками о предполагаемом нарушении авторских прав против авторов и медиа-компаний, чьи работы использовались для обучения некоторым продуктам OpenAI. В ноябре 2023 года правление OpenAI отстранило Сэма Альтмана от должности генерального директора, сославшись на отсутствие доверия к нему, а затем восстановило его в должности 5 дней спустя после переговоров, в результате которых был реконструирован состав правления. С тех пор в совет директоров OpenAI вошли бывший министр финансов США Лоуренс Саммерс, бывший глава Агентства национальной безопасности Пол Накасоне и Microsoft без права голоса.

Источник: https://pmlive.com/

Источник: https://www.unep.org/

Академик РАН Арутюн Аветисян: до сильного искусственного интеллекта по Канту нам ещё очень далеко

Сегодня мы живём в мире генеративного искусственного интеллекта, когда уже практически невозможно отличить генерируемый контент от реальности. Весь мир подключён к развитию ИИ, и высокие темпы обеспечивает открытость моделей. Но как сохранить баланс между технологической независимостью и мировой открытостью? Что такое доверенный искусственный интеллект, как с помощью регуляторики обеспечить нашу безопасность, не тормозя развитие ИИ? И как понимать сильный и слабый ИИ по Иммануилу Канту?

Об этом мы беседуем с директором Института системного программирования им. В.П. Иванникова РАН академиком Арутюном Ишхановичем Аветисяном.

— Каким был искусственный интеллект на раннем этапе своего развития и какой он сейчас?

— Теоретические основы искусственного интеллекта заложило большое количество людей, среди них Курт Гёдель, Алонзо Чёрч, Алан Тьюринг. Это преподается в любом университете, где есть вычислительная математика. Но когда появились реальные компьютерные ресурсы, придумали перцептрон, люди начали моделировать устройство мозга человека. Создали первые нейросети. Молодые люди думают, что нейросеть — изобретение XXI в. На самом деле уже в начале 1960-х гг. появилась четырёхслойная нейросеть.

Потом наступила «зима» искусственного интеллекта, потому что ожидания в области практического применения не подтвердились. А ожидания были серьезные. Например, Марвин Минский и его ученики предполагали, что через пять-десять лет, максимум 20, практически все рутинные работы заменит компьютер. Этого не произошло.

Но не так давно, в 2011–2012 гг., произошел «взрыв», когда более 10 млн изображений выложили в открытый доступ. И на их основе были обучены более серьезные модели, которые решали задачи распознавания образа. Они могли, например, отличить кошку от собаки с такой точностью, которая ранее была недостижима.

Оказалось, что, если есть много данных и суперкомпьютерные мощности, то далеко не самыми продвинутыми математическими методами можно достичь очень серьёзных результатов. И сейчас мы живем в мире генеративного искусственного интеллекта, так называемых больших языковых моделей, больших фундаментальных моделей. И, конечно, в этом смысле многое изменилось. Но всё, что мы имеем, так или иначе связано с машинным обучением и нейросетями.

— Вы сказали, что ожидания каждые пять-десять лет были очень высокими. С чем связаны эти пробелы в развитии технологии?

— Не хватало компьютерных мощностей и нужного объёма данных. Цифровизация только начиналась, она была отраслевой, а исследования в области искусственного интеллекта — лабораторными. Хорошо финансировалось Управление перспективных исследовательских проектов Министерства обороны США (DARPA), у японского правительства была большая программа, уже в 1960–1970-е гг. они пытались сделать гуманоида. Но тоже не хватало ресурсной базы. Потом выяснилось, что успех — это данные плюс суперкомпьютерные мощности, чего тогда не было.

Теперь всё население получило своеобразную обратную связь от ИИ, все могут взаимодействовать с ним. И обывателям кажется, что ИИ появился резко и развивается быстро. Это действительно быстро. Но информационные технологии всегда развивались быстро.

С другой стороны, можно ставить вопрос: почему темпы развития не падают? Как мне кажется, это связано с тем, что было принято принципиальное решение делать ставку на проекты с открытым кодом. К тому же суперкомпьютерные решения перестали быть специализированными. Например, машина БЭСМ-6 делалась в первую очередь для военно-промышленного комплекса.

Современные суперкомпьютеры построены на стандартной, типовой аппаратуре. Это то, что на рынке может купить любой человек. Материнские платы, сетевое оборудование InfiniBand, процессоры Intel или AMD. Если говорить об искусственном интеллекте, то NVIDIA. И вы можете купить все это, если у вас достаточно денег, и собрать суперкомпьютер, что было невозможно раньше. Компоненты открытого кода плюс доступность железа — это и есть массовое внедрение. И, наконец, заказчиками технологий стали мы с вами, социум.

Теперь отрасли экономики берут программные решения из одного «общего котла» и внедряют у себя, превращают в конкретные технологии. И всё это окаймляется идеями коллаборативной экономики. А в коллаборативной экономике продуктивность труда человека и учёного растет не в два раза, а на несколько порядков.

Самая большая площадка для совместной разработки проектов с открытым исходным кодом — GitHub — еще семь лет назад насчитывала 5 млн человек, сейчас — более 100 млн. И все они параллельно создают новые технологии и знания. Из этого мы должны научиться создавать продукты и быть технологически независимым.

На примере Linux: в нашей стране 40 операционных систем, несколько очень хороших продуктов, которые используются в промышленности. Но какой объём кода туда вкладывает всё наше сообщество? Буквально доли процента. То есть три порядка производительности труда. Вложив доли процента, мы имеем продукт стопроцентный, настоящий. Не хуже, чем у любой другой страны.

Конкурировать, делая систему закрытой, невозможно, потому что вы не сможете собрать нужное количество знаний и кадров в одном месте.

И когда появились закрытые модели OpenAI, ChatGPT, многие говорили, что эта система ломается, теперь будут закрытые решения. Но моё мнение оставалось прежним: появятся открытые модели, они будут конкурентоспособны, и остальные будут вынуждены в перспективе либо открывать свои модели, либо открытые модели догонят закрытые и станут лучше. Например, уже появились зрелые открытые модели Mistral AI, LlaMA и др.

— Как соотносятся слова «технологическая независимость» и «открытость»? Они никак друг другу не противоречат? Нет какой-то конкуренции между странами?

— Отдельно никакой стране мира, не только нам, но и Соединённым Штатам, не удастся развивать широкий ряд конкурентоспособных технологий. Но означает ли это, что надо с головой окунуться в чужие проекты и пытаться как-то двигаться с ними в одном фарватере? Конечно нет, речь не об этом. Нужно, понимая эту энергетику, создавать в открытом режиме свои репозитории, которые не отрываются от мирового сообщества, а просто более надёжные, безопасные, где есть гарантия, что доступ к ним не ограничат.

Для этого нужно развивать свой инструментарий. Синхронизация с мировым сообществом — серьёзная история. Нужны и финансовые ресурсы, и организационное понимание вопроса. Вы должны нивелировать риски, работать с ними, максимизировать прибыль и обеспечить приток знаний в страну. А через проекты с открытым кодом они будут притекать очень быстро.

У нас есть такой опыт в разных областях, например в математическом моделировании, — мы принесли в Россию открытую платформу для численного моделирования OpenFOAM, и буквально за короткое время огромное количество людей начали пользоваться этим инструментарием, создавать на его основе новые решения и применять их при расчётах. Это способствует и обучению, и образованию. Более того, в открытом режиме легче привлекать специалистов из других стран.

Например, в рамках Исследовательского центра доверенного искусственного интеллекта мы нашли десятки уязвимостей в PyTorch и TensorFlow и объявили об этом международному сообществу. Разработчики это признали, и теперь можно зайти на их сайт и увидеть, что такая-то ошибка найдена инструментом Svace, такая-то — инструментом Crusher, которые разработаны в Институте системного программирования. И это, мне кажется, правильное движение, которое мы должны показать всему миру. У нас нет идеи закрыться. Мы должны равноправно жить в открытом мире. И мы сильны.

— Что такое доверенный искусственный интеллект?

— С моей точки зрения, слово «доверенность» легитимно тогда, когда есть документ, где прописаны механизмы. Мы же говорим о технологиях, а не о доверии друг другу. Например, есть документ ФСТЭК России, где описаны шесть уровней доверия для обычного программного обеспечения. Если вы посмотрите, то увидите, что на каждом новом уровне ужесточаются требования к инструментарию и к тем процедурам, которые применяются к коду, чтобы выявлять недостатки, связанные с безопасностью. И в этом смысле понятно, что такое доверие.

В искусственном интеллекте пока нет таких документов. Но этот процесс уже запущен по всему миру. Евросоюз с мая прошлого года инициировал создание регуляторики. И сейчас они объявили, что приняли закон в отношении искусственного интеллекта, но пока ещё не ратифицировали его между странами-участниками, однако всё идёт в этом направлении.

Если вернуться к слову «доверенность» с точки зрения искусственного интеллекта, мы должны определиться, что значит разрабатывать доверенный ИИ: от дизайна, анализа данных, библиотек, которые мы используем, так называемых фреймворков, до анализа уже готовых моделей с целью выявления уязвимостей, дефектов.

В отличие от обычного программного обеспечения в модель ИИ уязвимости попадают через данные, обучающие фреймворки. Поэтому нельзя не иметь инструментов, которые анализируют уже готовые модели или пытаются их как-то дополнительно дообучить, чтобы сделать более защищёнными.

Классический пример: сотрудники из нашего Центра доверенного искусственного интеллекта заказали майки с набором сгенерированных абстрактных изображений. Если надеть такую майку, ИИ перестает воспринимать человека как объект, он перестаёт для него существовать. Как с этим бороться? Нужно дообучать. Но какими должны быть процедуры дообучения, как их контролировать? Это зависит от того, где применяется технология и какой уровень безопасности надо обеспечить. Есть же разница между входом в столовую и на ядерный объект.

По моему мнению, доверенность означает наличие научно-технологической базы и соответствующего документа, который определённым образом трактует термин.

— Какие риски закон Европарламента о регулировании ИИ пытается исключить?

— На территории Евросоюза будет запрещён сбор биометрии в общественных местах. То есть запрещается то, что может подорвать какие-то общественные устои. Это не про технологии, так посчитал гуманитарный блок. Вторая часть связана с обязательным регулированием технологий ИИ, несущих высокие риски. И, наконец, третья часть связана с технологиями, которые можно применять, потому что они ни на что не оказывают особого влияния. Например, если «лишний» человек зайдёт поесть в столовую, ничего серьезного не произойдёт. Таким образом, Евросоюз — первая юрисдикция, где будет практиковаться запретительная политика в отношении искусственного интеллекта. Ещё неизвестно, будет ли закон ратифицирован, но посмотрим, что из этого выйдет.

В мае 2023 г. мы проводили конференцию по доверенному искусственному интеллекту в Научной долине МГУ, где я впервые упомянул, что европейцы пошли этим путем. Состоялась дискуссия, и наш бизнес сказал, что запреты привели к тому, что примерно 25–30% стартапов объявили, что в таком случае покинут юрисдикцию Евросоюза, потому что им будет сложно развиваться. И мы обсуждали, что нужно идти иным путём. Я как человек науки против запретов, за свободу.

Но эти вопросы должны обсуждаться внутри общества. В конце концов, в генетических исследованиях же не просто так ввели биоэтику. Или запреты на распространение в ядерном комплексе и т.п. Как только мы говорим о запретах, нужно, чтобы эти вопросы решали не айтишники и не математики. Они должны участвовать, но нужно подключать гуманитарный блок. Потому что некоторые вещи мы видим иначе.

Я всегда шучу: если вы поставите нам задачу, чтобы все были в безопасности и счастливы, мы всех чипируем и люди будут все время улыбаться. Это шутки. Но действительно нужно работать в междисциплинарных командах и не торопиться.

Кстати, 15 февраля в «Национальную стратегию развития искусственного интеллекта до 2030 года» были внесены корректировки о междисциплинарных командах. Обсуждается кратное увеличение финансирования междисциплинарных исследований. Они ведутся и с медиками, и с психологами, и с юристами.

— Какие инициативы в отношении регулирования ИИ есть в России?

— Документ Евросоюза скорее декларативный, кроме запретительной части. Остальная часть о том, что нужно обязательно это регулировать. Там прописаны механизмы обеспечения доверенности по аналогии с обычным программным обеспечением. В этом смысле мы точно не отстаем.

У нас уже приняты два ГОСТа в области того, как должны разрабатываться технологии искусственного интеллекта для медицины. Принят «Кодекс этики в сфере искусственного интеллекта». Мы создали его одними из первых в мире, а сейчас уже более 400 организаций из десятков стран подписали и продолжают подписывать этот документ. Компании внутри страны добровольно берут на себя обязательства, что будут соответствовать этим этическим принципам.

— Что это за этические принципы?

— Например, в искусственном интеллекте, помимо программного обеспечения, есть вопросы, связанные с так называемой предвзятостью (bias), когда вы можете ущемлять пользователя, скажем, по половому признаку. Причем непреднамеренно, из-за неправильных данных. И компании берут на себя обязательства, что все, что они будут делать с ИИ, должно соответствовать определённым этическим принципам.

Если нет технологий контроля, можно подписать любые декларации, но в них не будет смысла. Должно быть понимание ситуации и дальнейшего развития. И у нас это есть. Правительство ещё в 2021 г. запустило на базе ИСП РАН Исследовательский центр доверенного искусственного интеллекта. А общемировая тенденция регулирования началась только в 2023 г. Значит, наше видение было правильным.

Простой пример: был очень неприятный случай в Гонконге, когда с помощью ИИ обманули банкира. Его якобы вызвали на видеоконференцию из головного офиса в Лондоне. По указанию своих собеседников (мошенников) он перевёл им $25 млн. Получилось так, что он не смог определить, разговаривает он с настоящими людьми или с искусственным интеллектом.

Хотелось бы, чтобы во время просмотра контента можно было нажать на кнопку и понять, сгенерированный он или нет. Казалось бы, понятная история. И Евросоюз, и США уже начали вести такую работу. В сентябре прошлого года Джо Байден подписал документ, согласно которому необходимо маркировать генерируемый контент цифровыми водяными знаками.

А мы занимаемся технологиями маркирования уже много лет. В этом году мы запустили трехлетний проект с хорошим финансированием, так называемый большой проект, в рамках которого мы вместе со знаменитым Математическим институтом им. В.А. Стеклова РАН будем сотрудничать с нашими компаниями и создадим технологию маркировки генерируемого контента. И важно не просто декларировать, а создать технологию. А как это сделать? Ведь водяные знаки должны быть незаметными, иначе никто не будет использовать такой контент из-за его низкого качества. Кроме того, производство должно быть относительно дешёвым, чтобы не повышать стоимость контента. И эти задачи стоят перед нами.

— С какими вызовами сталкиваются разработчики технологий ИИ?

— Есть ряд технологических проблем, стоящих перед всем миром. Например, оптимизационные задачи. Было бы здорово, если бы мы могли тратить на порядок меньше энергии и компьютерных вычислительных ресурсов, а получать тот же результат. Или если бы была модель, работающая на смартфоне, а её качество было бы как у большой модели. Эти направления я отношу к эффективности и продуктивности кода.

Есть барьеры, связанные с отсутствием аппаратуры. Нужно, чтобы наши учёные имели хорошую инфраструктуру. Без такой инфраструктуры мы всегда сдерживаем развитие. У нас есть кадры, которые могут решать задачи, но им нужен инструментарий. Но это не та проблема, которую нельзя решить. К оборудованию так или иначе можно обеспечить доступ.

Но важно, чтобы это было обрамлено правильной инфраструктурой, чтобы любой студент или преподаватель, проснувшись, не думал, как сегодня найти GPU-ускоритель. Необходимо обеспечить ему доступ к сервису в облачной модели: если он преподаватель, у него должен быть доступ к одному объёму, если школьник, то к другому, в зависимости от потребностей. А если школьник выиграл проект или победил в конкурсе, то можно дать ему дополнительный объём. И мы должны создать инфраструктуру, которая позволит нашим учёным убрать этот барьер. Цифровое неравенство надо исключить. И это не только про железо, но и про стек соответствующего программного обеспечения.

— Вы в своих выступлениях говорите, что сильного искусственного интеллекта нет и в ближайшее время не будет. Почему?

— Когда меня пригласили участвовать в пленарном заседании Международного Кантовского конгресса, приуроченного к 300-летию Иммануила Канта, я стал размышлять, как объяснить понятия сильного и слабого ИИ через мое понимание Канта. Попробую повторить то, что я сказал.

Современный искусственный интеллект — это суждения, основанные на опыте, на эмпирике. Благодаря тому, что эмпирики очень много, ведь цифровых данных очень много, и тому, что суперкомпьютерные ресурсы и инструментарий очень сильно развились за последние годы, суждения ИИ могут быть очень высокого качества. До такой степени, что человек, общаясь, может не понять, говорит он с роботом или с человеком.

Но давайте теперь вернемся к Канту. Что он говорил? Что всякое познание начинается с опыта. При этом опыт никогда не будет гарантировать истинную всеобщность. Таким образом он ставит некое ограничение. А если взять его основные труды, он считал, что одно из главных свойств разума — это оперирование априорными знаниями. А что такое априорные знания? Это знания, независимые от опыта.

Вот и я утверждаю, что знаний, безусловно независимых от опыта, в современном искусственном интеллекте нет. Если считать, что слабый ИИ — это то, что основывается на опыте, а сильный — на разуме, в этом смысле, по Канту, до сильного искусственного интеллекта нам ещё очень далеко.

Я использую философские категории, но как объяснить иначе? Когда говоришь о сильном и слабом ИИ, люди начинают менять определения. Мне кажется, работы Канта это проясняют. Априорных знаний в современном искусственном интеллекте нет, значит, между ними водораздел, который нельзя преодолеть.

Они могут появиться, потому что этими задачами занимаются, подходы будут инкорпорироваться в существующие решения, и в будущем появление сильного ИИ возможно. Но далеко не в ближайшие несколько лет. Некоторые люди оптимистично говорят, что к концу следующего года. По-моему, даже Илон Маск сказал, что сильный искусственный интеллект появится в ближайшие годы. Некоторые «реалисты» прогнозируют его появление через десять лет. Но я не стал бы предсказывать. В перспективе моей жизни этого не будет. Поэтому я сконцентрировался на технологиях, основанных на опыте, то есть на слабом искусственном интеллекте. Там своя проблематика, свои вопросы безопасности, доверия и всего, что мы обсудили сегодня.

Текст: Марианна Еркнапешян.

Источник: «Научная Россия».

Россия. ЦФО > Образование, наука. СМИ, ИТ > ras.ru, 24 июня 2024 > № 4667792 Арутюн Аветисян

Искусственный интеллект не станет "подсиживать" программистов

Юлия Гуреева

Современные модели искусственного интеллекта (ИИ) в некоторых сферах давно достигли или даже превзошли возможности человека. Одна из них - программирование. Так, CodeWhisperer от Amazon поддерживает несколько языков программирования, вносит предложения по более безопасному коду и сканирует его на наличие "дыр", а Codeium от компании Exafunction дописывает код сам и ищет нужные для специалиста инструменты в своем хранилище.

Нейросети не могут написать целиком большую и работающую без погрешностей программу, однако генерировать тестовые данные или писать отдельные части приложения они уже способны. При этом специалистам необходимо проверять все результаты, поскольку количество ошибок зависит от инструмента, отметил начальник отдела поддержки исследований Института AIRI Степан Мамонтов. В частности, исследование качества написания кода ChatGPT показало, что почти в 50% ответов есть неточности.

ИИ может создать работоспособный код для простых и четких задач: это может быть написание веб-приложений, скриптов, API, сказал лидер кластера "Фундаментальные сервисы" платформы "Сфера" Валерий Никаноров. "Качество кода и его соответствие требованиям напрямую зависит от качества обучающих данных, используемых для тренировки модели ИИ. Это ограничивает применение таких систем в нестандартных или быстроразвивающихся областях", - добавил он. Развитие ИИ-ассистентов он сравнил с появлением кодовых библиотек, которое ускорило разработку, но при этом не лишило специалистов работы.

Нейросети могут стать ценным "помощником", поскольку это направление требует не только технических навыков, но и творческого мышления и способности решать нестандартные задачи, чего ИИ пока достичь не может, отметил Никаноров. "Спрос на программистов останется высоким, поскольку по мере развития технологий появятся более сложные и уникальные задачи, требующие человеческого участия", - уверен эксперт. С развитием ИИ повысится производительность реальных людей и ускорится решение рутинных задач.

Александр Ведяхин: не считаю, что Россия отстает в искусственном интеллекте

Отставание России в развитии технологий искусственного интеллекта с каждым годом сокращается, отметил первый зампредседателя правления Сбербанка Александр Ведяхин. По его словам, в будущем стране удастся выйти на уровень мировых лидеров в этой сфере. В интервью РИА Новости в рамках ПМЭФ-2024 топ-менеджер крупнейшего банка рассказал, окупились ли вложения в GigaChat и Kandinsky, сколько времени занимает открытие филиала в Китае, и какой интерес у банка есть в Африке. Беседовала Светлана Орлик.

— "Сбер" давно говорил о планах открыть филиал в Китае, на каком этапе находится этот процесс?

— Мы активно взаимодействуем с Национальным управлением финансового регулирования КНР, процесс идет по установленному регламенту. И хочу сказать, что все регламентные сроки соблюдаются. Просто регламентные сроки у китайских коллег достаточно длинные, но мы идем в графике.

— Сколько времени занимает открытие филиала в КНР с учетом особенности регуляторных требований этой страны?

— Открытие филиала в Китае занимает от двух до трех лет, иногда даже до пяти. Это заведомо длинный путь, но мы работаем, плотно взаимодействуем.

— В каких еще зарубежных странах банк планирует работать? В каких форматах? Где еще планируете открывать филиалы кроме Индии и Китая?

— Мы поддерживаем контакты с большинством дружественных стран, а формат работы в каждом конкретном случае зависит от потребностей и заинтересованности зарубежной стороны, а также масштабов нашего внешнеторгового сотрудничества. Открытие зарубежных филиалов не самоцель для нас. Первоочередная задача сейчас — продвигать наши проверенные цифровые решения на зарубежные рынки дружественных стран. Мы активно работаем с рядом наших клиентов, чтобы помогать им выходить на международный рынок, в первую очередь, в дружеских странах.

— "Сбер" активно вовлечен в развитие исламского банкинга в России, а какие перспективы у российских партнерских финансов за рубежом? Есть ли у банка крупные проекты с иностранными партнерами?

— У нас сейчас идут обсуждения ряда проектов по исламскому финансированию. Но для международного бизнеса, в том числе с арабскими странами, очень хорошо работает и классическое финансирование. То есть нет такого, что арабские страны говорят только об исламском финансировании. Мы больше видим исламское финансирование как инструмент для наших граждан, которые, исходя из своих убеждений, не готовы пользоваться классическими банковыми продуктами. И здесь мы, конечно, им помогаем. Поэтому наш фокус именно на этом сегменте.

У нас портфель исламского финансирования приближается к миллиарду рублей, реализовано 7,5 тысяч сделок с различными продуктами в розничном и корпоративном сегментах, понятно, что это в основном малый и средний бизнес. Крупнейшему корпорату пока что достаточно сложно заходить в исламское финансирование, потому что там очень большие ограничения для большого бизнеса. Мы будем рады и крупным заявкам наших корпоративных клиентов, но пока что крупных заявок мы не наблюдаем в этом направлении. Но опять же, возможно, это вопрос времени. И если к нам придут, например, коллеги из Татарстана, из республик Северного Кавказа, из наших традиционных исламских регионов с какими-то большими проектами, мы будем счастливы их сделать.

— С какими странами у вас есть проекты в сфере искусственного интеллекта? С какими планируются?

— В сфере искусственного интеллекта мы развиваем международное сотрудничество с Узбекистаном, Ираном, Кубой, Египтом, Китаем, Индией, Саудовской Аравией и другими дружественными странами. Банк активно участвует в мероприятиях таких межгосударственных объединений, как БРИКС, ШОС и СНГ. Это сотрудничество охватывает широкий круг вопросов: от регулирования этой сферы до разработки конкретных отраслевых AI-решений.

По линии международного сотрудничества с БРИКС и ШОС для России важно предоставлять странам-участницам доступ к своим технологиям, в том числе к большим языковым моделям (LLM). В этом году Россия председательствует в БРИКС, и для реализации совместных проектов создана рабочая группа делового совета объединения по цифровой экономике и искусственному интеллекту. Нам необходимо разработать документы по сотрудничеству в сфере AI, организовать обмен в сфере регулирования и этики искусственного интеллекта, а также применять академический обмен, создать экспертные рабочие группы по существующим проблемам, вести совместные исследования. Более того, мы уже прорабатываем вопрос создания Альянса БРИКС по искусственному интеллекту.

— В прошлом году Альфа-банк предложил "Сберу" снизить размер дивидендов и направлять часть прибыли на развитие GigaChat, чтобы Россия не отставала бесконечно в развитии AI-технологий. Как вы оцениваете это предложение? На ваш взгляд, каким должно быть стимулирование бизнеса на уровне государства для развития искусственного интеллекта? Достаточно ли делается в этом направлении сейчас?

— Я не считаю, что наша страна серьёзно отстает в AI-технологиях. Практика показывает, что отставание с каждым годом сокращается. К примеру, если голосовые ИИ-помощники появились в России только через пять лет после западных аналогов (если сравнить Siri от Apple и Алису от "Яндекса"), то в генерации изображений от появления зарубежной модели Midjourney до модели Сбера Kandinsky прошло всего девять месяцев, от большой языковой модели ChatGPT до GigaChat — шесть месяцев. То есть нас отделяют шесть-девять месяцев от лидеров этой гонки, что в принципе неплохо. Понятно, что сейчас уже происходят события каждую неделю, но тем не менее мы считаем, что шесть-девять месяцев – это тот разумный срок отставания, который мы имеем, в том числе по причине существующих внешних ограничений. Тем не менее, мы с ними тоже активно работаем и думаем, что успешно. Но кроме внешних ограничений есть еще и внутренние преграды, это в первую очередь разработчики, у нас явно мало их.

Преодолеть эти ограничения можно во многом с поддержкой государства. Правительство РФ целенаправленно развивает AI с 2019 года в рамках профильного федерального проекта. Многое уже сделано: действует грантовая поддержка AI-разработчиков и компаний, внедряющих их продукты, открыты 12 исследовательских центров, которые совместно с индустриальными партнерами создают новые AI-решения, есть целенаправленный фокус на подготовку кадров.

В феврале этого года президент России утвердил обновленную национальную стратегию развития искусственного интеллекта в России до 2030 года. В ней сформулированы задачи по преодолению основных барьеров и вызовов, которые стоят перед страной в этой области. Нужно помогать бизнесу определять приоритетные направления для внедрения AI, популяризировать искусственный интеллект среди бизнеса и населения, повышать доверие к нему. Уверен, что России удастся выйти на уровень мировых лидеров в искусственном интеллекте.

— А каков дефицит специалистов в сфере искусственного интеллекта в России?

— Потребность в AI-специалистах в России сейчас оценивается в 10 тысяч человек. Причем по специалистам начального уровня, так называемого junior, дефицита нет, но они часто переходят из одной компании в другую в поисках, опять-таки, интересных задач. То есть тут уже другая проблема — высокая текучесть кадров. Ее, впрочем, решить проще, потому что таких специалистов выпускается все больше, отрасль молодеет, и в этой части соотношение спроса и предложения постепенно выравнивается. Дефицит наблюдается в основном среди специалистов middle и senior: количество AI-проектов постоянно увеличивается, спрос на таких людей растет, но их мало и готовить их долго. Middle готовится три-пять лет, senior – пять-семь-десять лет. Кто-то вообще не доходит до этих уровней. Компании конкурируют за них за счет интересных задач.

Но мы уверены, что нехватка таких кадров будет восстанавливаться. Кроме того, сейчас наблюдается радостный тренд, что ряд ребят как раз этого уровня, которые уехали, хотят возвращаться в Россию. У нас, те, кто даже из "Сбера" уезжал, сейчас говорят о том, что они готовы возвращаться.

— А есть ли преграды для их возвращения?

— Никаких преград. Добро пожаловать, мы принимаем обратно тех коллег, которые решили вернуться.

— Можете раскрыть инвестиции в технологии искусственного интеллекта? Во сколько обошлись GigaChat и Kandinsky? Окупились ли эти проекты? Сколько еще вложений потребуют?

— Самый новый тренд сейчас – это LLM модели (большие языковые модели), бизнес-модели, которая выводит такие проекты на полную окупаемость в ближайшее время, нет. При этом, это вполне нормально, для каждой новой технологии. И по большому счету такой модели нет нигде в мире. Если мы посмотрим OpenAI – это сжигание денег, то есть это инвестиции в технологии. Приносят ли технологии прибыль? Да, приносят. Просто это очень долгосрочный горизонт. И поэтому, если говорить сейчас, окупились ли вложения, то в настоящий момент не окупились. А будет ли финансовый возврат? Будет, но в достаточно долгосрочном горизонте. Будем ли мы дальше инвестировать? Конечно, будем, потому что мы видим необходимость этого для наших клиентов и для всей России.

При этом надо отметить, что искусственный интеллект гораздо шире чем только LLM модели, и те технологии искусственного интеллекта, которые уже хорошо опробованы и используются достаточно часто, приносят значительную прибыль. Мы наблюдаем положительную динамику по отдаче от инвестиций в AI. В 2023 году каждый рубль, инвестированный в искусственный интеллект, приносил примерно семь рублей, а сейчас — восемь рублей.

— Банк хочет до конца 2024 года порядка 70% решений по выдаче кредитов юридическим лицам отдать на откуп искусственному интеллекту. А когда этот показатель достигнет 100%? И все ли решения можно доверять искусственному интеллекту?

— По кредитам для малого и микробизнеса мы планируем достичь 100-процентного AI-охвата к 2026 году. Но, конечно, есть немало задач, которые требуют человеческого суждения и опыта, что ИИ-системам на текущем уровне развития недоступно. Например, это одобрение крупных кредитов или предоставление сложных структурированных продуктов для клиентов. Искусственный интеллект может дополнять процесс принятия решений в этих областях, но ему пока что сложно нести за них единоличную ответственность, то есть финальное слово остается за человеком.

— Вы говорили раньше, что банк рассматривает участие в инвестиционных проектах своих корпоративных клиентов в Африке. Есть ли определенность с форматом поддержки?

— Африканское направление очень перспективно, но при этом Африка крайне неоднородна в плане экономического развития. Есть Северная Африка, которая побогаче. Есть Центральная Африка – явно победнее. Есть Южная, в которой тоже свои нюансы. И работа с каждой отдельной страной на континенте требует индивидуального подхода. У нас нет самоцели сделать проект за рубежом просто для того, чтобы его сделать. Есть у наших клиентов интерес, мы идем вместе. Плюсом мы, конечно, стараемся максимально помогать африканским странам, там, где есть запрос, в новых технологиях. Это то, чего у них сейчас явно мало, и то, что мы готовы им давать, то, чем мы готовы с ними делиться.

Мы постоянно контактируем с клиентами по вопросам реализации инвестпроектов, но при этом тщательно взвешиваем потенциальные риски работы в этом непростом регионе. Так что формат нашего участия подбирается индивидуально под каждый проект.

Хочу отметить, что в 2023 году, на нашей международной конференции по искусственному интеллекту AI Journey было получено свыше 150 миллионов онлайн просмотров от зрителей со всего мира, в том числе более двух миллионов просмотров было из таких стран Африки, как Египет, Алжир, ЮАР, Тунис и другие.

Россия > Финансы, банки. СМИ, ИТ > ria.ru, 5 июня 2024 > № 4663438 Александр Ведяхин

В Роскомнадзоре рассказали о полном импортозамещении оборудования ТСПУ

Олег Капранов

Директор Центра специальных проектов Главного радиочастотного центра при Роскомнадзоре Сергей Темный рассказал "РГ" о том, что Роскомнадзор импортозаместил оборудование для обеспечения безопасности российского сегмента интернета, и о тех вызовах, с которыми пришлось столкнуться в ходе реализации этого проекта.

Сергей Владимирович, давайте для начала вкратце расскажем, что такое ТСПУ.

Сергей Темный: В рамках установленной законом деятельности перед Роскомнадзором стоит задача создать автоматизированную систему безопасности российского сегмента интернета. Для ее выполнения мы устанавливаем технические средства противодействия угрозам - те самые ТСПУ - на сетях связи операторов связи. Этим обуславливаются определенные требования к оборудованию, которое там используется. Оно должно быть защищенным, надежным и гарантированным. Проект реализуется с 2019 года. И изначально у нас были некоторые ограничения именно в части российского оборудования, потому что промышленность могла обеспечить только очень маленький перечень, и мы были вынуждены использовать иностранные устройства.

Речь идет о китайском оборудовании? Или это условные "циски"?

Сергей Темный: Нет, американское мы не используем. У нас есть другое оборудование, китайское в том числе. Было и оборудование, производившееся единственной компанией в мире. И мы его заместили, целенаправленно поставив российским компаниям соответствующую задачу два года назад.

С какими рисками при использовании иностранного оборудования вы столкнулись?

Сергей Темный: Первое - это негарантированность поставок. Иностранные компании нарушали их сроки, что влияло на даты реализации проекта. Ну и, разумеется, уход вендоров с рынка. Даже по оборудованию, которое ранее было приобретено, мы потеряли техподдержку, сопровождение, что неизбежно сказывается на надежности работы оборудования и его работоспособности.

Еще какие-то риски?

Сергей Темный: Еще один риск, учитывая, что наша система отвечает в том числе за критические объекты информационной инфраструктуры (КИИ), - это возможные незадекларированные функции, которые в оборудовании используются. На примере некоторых операторов связи, использующих иностранное оборудование, мы знаем: были случаи, когда эти функции срабатывали, это приводило к сбоям в работе сетей, поэтому по целому ряду причин мы такие риски себе позволить не можем.

С чего начали замещать?

Сергей Темный: Изначально у нас были только коммутаторы российские. Промышленность производила их и средства криптозащиты. Весь остальной набор оборудования был у нас иностранный. Сердцем ТСПУ является оборудование DPI. Здесь софт - разработка российской компании, но до 2022 года оно поставлялось на иностранной платформе. В 2019 году тестовый сегмент был создан именно на ней. С 2022 года мы заменили платформу фильтра DPI, и сейчас она уже отечественная. А сегодня мы тестируем платформу нового поколения, более производительную, также отечественную разработку.

Что у нас еще поменялось с 2019 года?

Сергей Темный: В первую очередь это оптический обходной переключатель. Мы поставили задачу промышленности, чтобы разработать устройство под наши требования. Оно получилось принципиально новым, потому что учли наши требования по эксплуатации, по функциональности и по универсальности. Обходной переключатель поставляется с прошлого года, устанавливается на сеть операторов связи, уже на несколько сотен узлов установлен. И показывает свою работоспособность и надежность.

Сейчас мы тестируем балансировщик трафика, который нам также необходим на узлах, особенно на крупных, где используется несколько фильтров. После положительного завершения тестирования мы его также начнем приобретать уже в этом году. То есть фактически мы с этого года уже не приобретаем иностранное оборудование в принципе для наших объектов.

Но при этом, насколько я понимаю, используются иностранные процессоры?

Сергей Темный: Перед производителем стоит задача по постепенному повышению уровня локализации оборудования. С 2027 года мы планируем заменить телекоммуникационный процессор на отечественный. И после этого локализация вырастет очень существенно.

Но если мы говорим про балансировщики трафика, то здесь в модуле управления уже находится российский чип. Архитектура управления реализована на нем.

С какими проблемами пришлось столкнуться в ходе работы по импортозамещению?

Сергей Темный: Например, были сбои по блокам питания - мы используем довольно редкие. И когда на мировом рынке были затруднения, то у нас из-за этого возникли проблемы. В результате мы, конечно, все получили, но, учитывая этот опыт, поставили задачу производителю локализовать производство в России. Сейчас этот блок уже производится в Санкт-Петербурге.

Оптические модули в принципе никогда не производились на территории Российской Федерации. Сейчас он уже разработан и собран под нас. В случае его успешного тестирования со следующего года ждем поставки.

Но самое главное, что я хочу сказать, - мы выступили заказчиками оборудования, которое создается под наши требования. Соответственно, после этого производитель может ставить промышленности, другим предприятиям задачу создать те или иные комплектующие. Если у нас нет собственных российских разработок, то в принципе не могут появиться ни российские комплектующие, ни компонентная база. Поэтому цепочка "заказчик - производитель - компонентная база" выстраивается таким образом. Поэтому ставим задачу по планомерному повышению степени локализации.

Главное, что мы обеспечили нашему производителю, - это гарантированный минимальный объем заказа. Но при этом понятно, что мы заказываем только определенную номенклатуру, довольно узкую. А самым большим потребителем телекоммуникационного оборудования остаются операторы связи. Операторы - это коммерческие организации, и они импортозамещение строят немного иначе. Они ждут, когда рынок сам что-то предложит, а рынок предложит, только когда у него заказы будут. Такой вот замкнутый круг. Но ситуация меняется и в этом направлении.

Их нужно обязать? Есть же инициатива, чтобы отраслевые регуляторы сами определяли, что относится к КИИ, а что нет.

Сергей Темный: Мне кажется принципиально важным, чтобы даже коммерческие игроки, которые не попадают пока под регуляторику КИИ, понимали, насколько им выгодно и безопасно использовать российское оборудование. То есть речь не о расширении регуляторики КИИ на этих участников, а о приведении работы с российским оборудованием к каким-то общим правилам, не только для госзаказчиков. Тогда это действительно будет гарантировать спрос, и объем рынка сразу станет шире для наших производителей, что позволит им, во-первых, делать оборудование дешевле, во-вторых, запрашивать у производителей комплектующие и повышать локализацию. Потому что, если мы будем говорить о сборках только под критические объекты инфраструктуры, это будут штучные образцы.

При этом особенно остро стоит вопрос о защите отечественных производителей телекоммуникационного оборудования от недобросовестных поставщиков, которые могут продавать оборудование иностранного производства под видом отечественного. Такие попытки бывают. Поэтому задача государства - не ослаблять контроль за процедурой включения в соответствующие реестры продукции, в том числе усиливая элементы отраслевого контроля, когда представители отечественной отрасли через действующие процедуры проводят анализ и подтверждают наличие собственных разработок и факт производства в России. Это позволит защитить инвестиции в отрасль и гарантировать ее развитие.

Между тем

Крупные западные издания - New York Post, Axel Springer, Financial Times и другие - массово продают свои материалы OpenAI для обучения чат-бота ChatGPT. Также это дает возможность избежать проблем с авторскими правами. Однако некоторые считают, что если к таким действиям начнут прибегать и другие разработчики, то рынок журналистики упадет, как это было с появлением интернета.

Другие игроки тоже занимаются сбором данных, однако делают это без каких-либо соглашений. Например, Google берет такую информацию из статей, книг и комментариев в Сети для того, чтобы ее системы лучше понимали запросы пользователей, чем недовольны правообладатели.

Этот вопрос обсуждается и на уровне властей. По словам главного чиновника антимонопольного ведомства США Джонатана Кантера, компании должны "адекватно компенсировать авторам их работы", чтобы избежать краха отрасли медиа, передает Bloomberg. Однако, как считает телеком-аналитик и ведущий Telegram-канала @abloud62 Алексей Бойко, если такая тенденция разовьется, востребованность журналистских текстов не упадет, поскольку большинству больших языковых моделей ИИ присущи "миражи" в выдаче ответов. Доверять такой информации будет мало людей. Также некоторые чат-боты, база которых регулярно пополняется, предоставляют ссылки на оригинальные и "свежие" публикации. "Уверен, что СМИ смогут сосуществовать с ИИ, взаимно дополняя и обогащая друг друга", - добавил Бойко.

При этом передавать новости, которые случились буквально пару минут назад, так же оперативно, как журналист, у чат-бота все равно не получится, сказал гендиректор информационно-аналитического агентства TelecomDaily Денис Кусков. "Он может какие-то случаи предугадать, но новость за журналиста он не напишет", - считает собеседник.

Опасения по поводу того, что спрос на медиа будет падать, беспочвенны, полагает ведущий аналитик Mobile Research Group Эльдар Муртазин. По его словам, статьи, на которых учится искусственный интеллект, позволяют ему писать в стилистике того или иного автора или издания, однако делать глубокий анализ он не может. Скорее появятся какие-то продукты, которые будут интересны издательствам, но полностью заменить их они не смогут.

Подготовила Юлия Гуреева

Россия > СМИ, ИТ. Внешэкономсвязи, политика > rg.ru, 4 июня 2024 > № 4654848 Сергей Темный

Почему искусственный интеллект не заменит живых журналистов и телеведущих

Анна Юркова (Краснодарский край)

Можно ли препоручить машинам творческие задачи? Многие журналисты играючи экспериментируют с программами, генерирующими картинки или тексты по запросу. С другой стороны, искусственный интеллект хоть и открывает перед работниками СМИ огромные возможности, но несет в себе ощутимые риски. Именно эта тема стала центральной на прошедшем недавно IV Форуме кубанской журналистики в Сочи.

В его работе приняли участие ведущие эксперты медиасферы из федеральных СМИ и генеральный директор Национальной ассоциации телерадиовещателей (НАТ) Александр Широких. На форуме состоялось пленарное заседание "Цифровая реальность и реальные цифры - какие перспективы у медиарынка". По традиции в нем выступил и губернатор Краснодарского края Вениамин Кондратьев.

- Цифровая реальность уже наступила. Надо понимать, как взаимодействовать с "цифрой" и как печатным редакциям, особенно в глубинке, конкурировать с интернет-изданиями, - подчеркнул глава региона. - Я сторонник эволюционных, а не революционных процессов и уверен, что мы не должны отказываться от районных газет. На Кубани в сельской местности живет около четырех миллионов человек, многие заняты в агропромышленном комплексе, и, поверьте, это вдумчивые и читающие люди. Чтобы завоевывать доверие этой аудитории, не нужно гнаться за яркими заголовками, куда важнее подавать глубокие по содержанию, аналитические материалы. Важно, чтобы вы оставались близкими читателю. Рассказывали о крае, о тех изменениях, которых нам вместе удалось добиться за последние годы.

Конечно, ведение сайтов тех же изданий сейчас требует новых инструментов. Но отдавать бразды правления искусственному интеллекту пока рано, считают специалисты, - поскольку "написанные" нейросетями заметки изобилуют очевидными ошибками. Поэтому там, где внедряются такие "умные" программы, люди продолжают проверять и редактировать продукты машинного мышления.

- В то же время нейросети становятся косвенным подспорьем, - отмечает главный редактор телеканала "Россия 24" Владимир Бекасов. - Наверняка вы сталкивались в своей практике с такими сервисами, как "Шедеврум" от компании "Яндекс" или Kandinsky - от "Сбербанка", они генерируют изображения по описанию или фото. Пока бесплатно. Мы тоже к ним обращаемся. Дело в том, что подписка на новости от мировых агентств (Reuters, Associated Press) обходится в сотни тысяч долларов в год. Желая сэкономить, в прошлом году мы пошли на эксперимент: генерировали фотографии на основе оригинальных снимков. После такой процедуры авторские права аннулируются. Условно, кадр с президентом Байденом на фоне Белого дома после обработки незначительно меняется - размывается полотнище американского флага, добавляется пятнышко и т.д. Но в новостях от данной технологии пришлось быстро отказаться: с одной стороны, изображение вроде правдивое, а с другой - все же искажено. А вот к аналитическим материалам это вполне нормальное дополнение. Сейчас мы используем до 10-15 процентов сгенерированных фотографий.

Пока искусственный интеллект схож с "китайской комнатой". В 1980 году американский философ Джон Серл поставил мысленный эксперимент: в помещении находится человек, которому подают карточки с иероглифами. Он совершенно не знает китайского языка, но в то же время ему дают подробные инструкции - как оперировать поступающими карточками и как ими отвечать. Со временем он настолько мастерски овладевает этими манипуляциями, что настоящий китаец, задающий ему снаружи различные вопросы, получает с помощью карточек качественные ответы, приходя к ощущению, что общается с носителем языка. Параллель с компьютерным "разумом" очевидна - машина не умеет мыслить, она лишь выполняет операции, согласно заложенным в нее инструкциям.

- Но в чем опасность? - продолжает Владимир Бекасов. - Несколько недель назад компания OpenAI представила новую версию генеративного искусственного интеллекта ChatGPT (GPT-4o), которая по своим возможностям обработки человеческой речи, анализу фотографий прямо с веб-камеры и другим реакциям приближает взаимодействие к человеческому общению. Тревожит то, что в недалеком будущем цифровой машине можно будет задать любую тональность, стилистику выступлений и получить, например, виртуальную копию личности известного журналиста. Конечно, это потребует проработки этических и юридических норм.

Кстати, модели телеведущих - аватары - уже не фантастика. Так, в прошлом году Ставропольский краевой телеканал удивил зрителей новинкой - ежедневный выпуск прогноза погоды стала вести сгенерированная компьютером диктор Снежана Туманова. "Привет вам, человеки!" - с такими словами обращается к зрителям блондинка с серыми глазами, отстраненная, с ограниченным спектром чувств. Нейросеть не только создает картинки, но и пишет тексты к выпускам. Искусственная ведущая даже вышла в финал телевизионного конкурса "ТЭФИ-регион", но только затем, чтобы дать пищу для общественной дискуссии: Туманова осталась без главного приза.

- Чуть холодная, красивая, словно статуя, с ничего не выражающими глазами, так что холодок пробегает по коже, - подхватывает тему ведущая информационной программы "Вести" Мария Ситтель. - Таким образом, можно безразлично рассказывать с экрана, к примеру, о росте заболеваемости гемолитическим стрептококком в Японии, которая несет тяжелые последствия. Есть в этом искусственность, а массмедиа должны быть человекоцентричными, только тогда им будут доверять, тогда они будут иметь успех и получать обратную связь.

Конечно, синтезированные компьютером образы и голоса никогда не сравняются с человеком, но знакомиться с потенциалом ИИ-технологий, "щупать" цифровые инструменты надо, уверены эксперты. Потому что они станут помощниками по аналогии с компьютерной версткой, которая когда-то заменила в полиграфии для печати газет специальные машины - линотипы.

Участникам форума в образовательной секции представили действующий сервис на основе искусственного интеллекта Give Me Public для автоматического ведения соцсетей. Виртуальный журналист звезд с неба не хватает, но исполнителен и справляется с простыми редакционными задачами - готовит материалы на основе релизов в интернете и размещает их в заданной соцсети. По мнению разработчиков, такой эсэмэмщик поможет сократить время подготовки постов и освободит сотрудников от ежедневной рутины. В завершение встречи генеральный директор НАТ Александр Широких провел разбор Телеграм-каналов СМИ Краснодарского края.

Руслан Новиков, генеральный директор ИД "АиФ":

- Все традиционные медиа не конкурируют с цифрой. И наш читатель газеты, и наш читатель сайта - это два разных читателя, и максимальная доля пересечения между ними по многим исследованиям - 12 процентов. Это разные аудитории, работать для них нужно по-разному, контент им нужно давать разный и упаковывать по-разному. Цифровые носители развиваются по-своему.

На медиафоруме в Сочи подвели итоги первого межрегионального конкурса-премии имени Бориса Максудова. Корреспондент ВГТРК погиб от ранений в Запорожской области 23 ноября 2023 года во время съемок репортажа, оказавшегося для него последним. Старт его карьеры был на телевидении в Краснодарском крае - в ГТРК "Сочи", в компании "Новое телевидение Кубани" и на "ТВ Центр". В память о коллеге Союз журналистов Кубани при поддержке региональных властей предложил учредить творческую премию.

Оргкомитет получил 499 заявок, более 1000 материалов. В направлении "Печатные СМИ" самое большое количество авторов - 229, в других категориях: "Телевидение" - 115, "Интернет-СМИ" - 112, "Фото" - 26 и "Радио" - 17. В итоге было определено шесть победителей и 29 лауреатов.

- Это важный конкурс - и не только для его участников - журналистов, но и для всех жителей нашего края. Краевые средства массовой информации активно освещают события в зоне специальной военной операции, находят героев для своих материалов. Мы будем проводить конкурс региональной журналистики имени Бориса Максудова и в последующие годы, - сказал во время церемонии награждения победителей губернатор Кубани.

Среди журналистов печатных СМИ победителем стал обозреватель "Российской газеты" из Ростова-на-Дону Руслан Мельников. Старший корреспондент "РГ" из Краснодара Анна Юркова и интернет-редактор ростовского филиала "РГ" Николай Грищенко стали лауреатами в номинации "Интернет-СМИ". Внештатный фотокорреспондент "РГ" в Краснодаре Геннадий Аносов - лауреат в номинации "Фото" за серию снимков "Точечная артиллерия".

Подготовила Людмила Кучерова

Искусственный интеллект все чаще применяется в образовании

Ян Гриневич (СЗФО)

Каждый третий представитель малого и среднего бизнеса использует в своей работе искусственный интеллект (ИИ), выяснили аналитики центра НАФИ. Причем каждый четвертый из числа опрошенных использует его для образовательных задач.

Интерес бизнеса к практическому применению нейросетей растет лавинообразно последние два-три года. Однако зачастую рынок не понимает, какие последствия будет иметь внедрение ИИ. По данным экспертов ИТ-рекрутингового агентства "Атлас", с одной стороны, компании получают большое преимущество от внедрения ИИ, с другой - у сотрудников возникает беспокойство о массовых увольнениях. Так, в 2024 году 204 технологические компании сократили почти 50 800 рабочих мест из-за внедрения ИИ, при этом спрос на специалистов по искусственному интеллекту растет. Компании ищут таланты, которые помогут им внедрять и использовать новые технологии.

Наиболее горячей сферой применения ИИ становится сфера образования. Это и понятно - ИИ учится работать с людьми - так же, как и люди учатся использованию новой технологии. Чем больше "понимания" в этом вопросе, тем больше пользы машина и человек принесут друг другу.

По оценкам McKinsey, рост доходов мировой индустрии образования может составить четыре процента в 2024-2026 годах благодаря внедрению ИИ-технологий, а по данным исследования Агентства инноваций Москвы, к 2030 году объем мирового рынка ИИ в сфере образования составит 23,8 миллиарда долларов, комментирует Антон Прокопчин, директор по продукту Proscom.

По мнению эксперта, сегодня очень успешно ИИ применяется в дошкольном образовании - ИИ используется в качестве умных голосовых помощников, которые отвечают на вопросы ребенка и выступают в роли учителя. Например, Skyeng использует чат-бота "Кешу" на основе GPT-4 для общения с учениками, имитации живого диалога и исправления ошибок. Также с помощью технологии можно адаптировать образовательный материал под уровень знаний ребенка и выстраивать индивидуальный трек развития.

Другие примеры приводит разработчик Сулейман Дибиров: так, платформа MATHia адаптируется под каждого ученика, предоставляя задания в зависимости от его успехов и пробелов в знаниях, а платформа Knewton анализирует данные об успеваемости студентов и предлагает оптимальные учебные материалы. В свою очередь Coursera и другие онлайн-платформы используют нейросети для создания рекомендаций по курсам, оценки домашних заданий и предоставления обратной связи.

А Вероника Лобанова, продюсер направления ИТ-профессий образовательной платформы "Нетология", рассказывает, что методисты платформы применяют нейросети для быстрой расшифровки лекций и извлечения ключевых тезисов из видео и аудио. Чтобы избежать ложной информации, эксперты всегда проверяют полученный текст на корректность, чтобы сохранить образовательную ценность, логичную последовательность подачи материала и избежать фактических и смысловых ошибок.

Понятно, что сложности остаются. В исследовании компании Ingate Дмитрий Дмитриев, сооснователь консалтинговой платформы BOOOSTER, указывает, что пока "компании не особо хотят вкладываться в образование сотрудников, предпочитая либо нанять готового специалиста, либо хотят, чтобы он сам разобрался в вопросе". Остается открытой и позиция самих учеников.

- Считаю, что сложность при обучении ИИ только одна - это отсутствие навыков анализа и синтеза информации, непонимание того, что ты хочешь получить от ИИ, поэтому не можешь поставить задачу и оценить результат, - говорит Виктория Алеманова, руководитель программы "Бренд-менеджмент" ВШЭ (цитата также приводится в исследовании Ingate).

Технология развивается, и ее влияние на нашу повседневную жизнь уже значительнее, чем кажется. Согласно отчету The Future of Work Report 2024 (его цитируют эксперты "Атласа"), по оценке Goldman Sachs, ИИ может заменить 300 миллионов рабочих мест (18 процентов от мирового трудоспособного населения), а в ближайшие 20 лет ИИ заменит многие рабочие места, оставив половину мира потенциально безработными. Наиболее уязвимыми окажутся образованные офисные работники, 40 процентам сотрудников потребуется переобучение по мере автоматизации ИИ в течение следующих трех лет. Однако использование только одного ChatGPT поможет экономить 30-40 процентов личного времени работников.

По мнению ученого-практика Александра Веретено, профессиями завтрашнего дня можно назвать:

1. Специалистов по разработке и внедрению систем искусственного интеллекта и машинного обучения.

2. Инженеров по робототехнике

3. Экспертов по квантовым вычислениям для решения сложных задач.

4. Специалистов по виртуальной и дополненной реальности (VR/AR)

В Петербурге прошла конференция по информационной безопасности СГ

Каждую минуту в России фиксируется до 200 тысяч киберугроз. Системные методы защиты информации и борьбы с преступлениями в цифровом пространстве стали темами пленарного заседания XXIX научно-практической конференции "Комплексная защита информации", которая состоялась в Санкт-Петербурге на прошлой неделе.

Встречи специалистов в сфере кибербезопасности организуются под эгидой Союзного государства и проходят поочередно на территории России и Беларуси.

- Современную жизнь невозможно представить без информации и коммуникаций. Однако цифровые технологии - это не только новые перспективы, но и новые проблемы, - отметил председатель Постоянной комиссии Палаты представителей Национального собрания Республики Беларусь по национальной безопасности Геннадий Лепешко. - Попытки недружественных государств использовать информационно-коммуникационные технологии в борьбе с нашими странами потребовали адекватного ответа.

В феврале 2023 года постановлением Высшего Госсовета Союзного государства была принята Концепция информационной безопасности Союзного государства. Основные направления сотрудничества в этой сфере на конференции обозначил начальник департамента проблем безопасности в информационной сфере аппарата Совета безопасности РФ Алексей Шляхин. Среди основных вызовов следует рассматривать не только рост числа компьютерных атак и противоправные цифровые вмешательства во внутренние дела государств, но и распространение фейков, искажение исторической правды, размывание традиционных ценностей и дестабилизацию общественно-политической ситуации в целом.

Для противодействия таким угрозам разработан двухлетний план мероприятий, включающий в том числе налаживание взаимодействия компетентных органов России и Беларуси, обмен информацией и обзорами изменений национальных законодательств. В числе первоочередных задач - совершенствование подготовки специальных кадров. Как отметил академик Академии криптографии РФ Александр Баранов, специалисты по информационной безопасности настолько выросли "в цене", что предприятия реального сектора экономики просто не могут их нанять.

Вопросы IT-безопасности касаются не только защиты специальной информации. Основные ожидания общества во всем мире связаны с развитием технологий блокчейн, бигдата (больших данных), нейросетей и искусственного интеллекта, появлением квантового компьютера. Однако если сегодня дать задание нейросети ChatGPT нарисовать солдата или танк, она нарисует американского солдата - это и есть информационная агрессия, поясняет Баранов.

- В киберпространстве идет борьба за умы, - согласен с ним директор института компьютерных наук и кибербезопасности Дмитрий Зегжда. - Нужно уметь отличать реальный контент от сформированного, распознавать информационные кампании. Основная опасность цифровых технологий - массовость.

Необходимо также иметь в виду, что цифровая отрасль - от "железа" до программного обеспечения - пришла к нам с Запада. Так, основная уязвимость технологии блокчейн - встроенный в операционную систему криптопровайдер, а самая популярная в мире ОС - американская Windows.

- Не надо стесняться, - считает Александр Баранов. - Надо взять у Запада все самое удобное.

Даже отечественные нейросети создаются при помощи Python - это высокоуровневый скриптовый язык программирования, библиотеки стандартных функций которого наполняют и хранят на иностранных серверах. Проанализировать в полном объеме, что именно "вшито" в ту или иную функцию, невозможно, поэтому встает вопрос об импортозамещении.

Что касается бигдата, то они могут быть банально сфальсифицированы. Во времена СССР общегосударственную автоматизированную систему учета и обработки информации (ОГАС), технический проект которой был разработан еще в 1980-е годы, погубило то, что в нее изначально закладывались неверные данные, которые привели к неправильным прогнозам, напомнил Александр Баранов. Такое может повториться и сегодня - как случайно, так и намеренно.

Отдельное внимание эксперты в области кибербезопасности уделили росту преступности: IT-технологии могут стать как инструментом совершения противоправных действий, так и критической уязвимостью. На сегодняшний день все большее количество решений отдается на откуп автоматике: компьютерные системы управления работают на транспорте, в здравоохранении, банковской сфере, государственных органах, и все они - мишени электромагнитного террора (термин введен около 20 лет назад. - Прим. ред.). Электромагнитный импульс можно создать с помощью незаметного переносного генератора, а стены и окна зданий не являются препятствием для его работы. Система выйдет из строя, но выглядеть все будет совершенно невинно - как отказ оборудования, поэтому меры защиты от электромагнитного терроризма еще только предстоит разработать, подчеркнул профессор Белорусского государственного университета транспорта Константин Бочков. Кстати, прозрачные корпуса компьютерных системных блоков или стеклянные дверцы серверных шкафов тоже проницаемы для электромагнитного импульса преднамеренного воздействия, отметил ученый. Что это - маркетинговый ход или задел на будущее?

Что касается "традиционной" преступности, то цифровые технологии привели к ее трансформации: они активно используются при подготовке (DarkNet, связь), совершении (вредоносные программы, аренда ботнетов), сокрытии преступлений. Каждое четвертое преступление в Беларуси сегодня совершается в сфере информационной безопасности, отметил представитель белорусской Академии МВД Дмитрий Лахтиков. В республике уже приняты несколько нормативных актов, сокращающих время истребования данных при совершении подозрительных финансовых операций, в том числе в целях противодействия дропам - именно на карты дроперов обманутые люди переводят средства на так называемые "безопасные" счета. В России законодательные нормы тоже совершенствуются. С 25 июля нынешнего года вступают в силу изменения в ФЗ "О национальной платежной системе", направленные на совершенствование механизмов противодействия хищению денежных средств со счетов клиентов - физических лиц: вводится новый порядок возврата похищенных средств, а также меры воздействия на дроперов.

Традиционно итогом встречи становится сборник материалов, содержащих как официальную позицию двух государств в сфере обеспечения их информационной безопасности, так и практические примеры технологий и решений в этой сфере.

Именно на карты дроперов обманутые люди переводят средства на «безопасные» счета.

Текст: Мария Голубкова

Влияние стройотрасли на экономику страны сложно переоценить

Группа компаний «СтройСинтез» — многопрофильная организация полного цикла, специализирующаяся на строительстве и проектировании малоэтажных домов и поставке стройматериалов. Генеральный директор компании Виктор Лукин поделился с нами своим видением основных задач российской строительной отрасли, сегодняшнем векторе её развития и перспективах на будущее.

- Виктор Алексеевич, какие сегодня, на ваш взгляд, самые важные задачи стоят перед стройкомплексом России? На какие аспекты развития должно в первую очередь обратить внимание государство?

- Строительная отрасль становится важным фокусом внимания для государства. В условиях, когда первоочередное внимание уделяется стратегическим военно-оборонительным аспектам, можно смело утверждать, что строительство занимает второе по значимости место. Это связано с необходимостью учитывать развитие других стран, включая экономику Китая и опыт США в инвестировании в развитие территорий. В настоящее время перед нами стоит важная задача развития собственной экономики в условиях санкций и ограничений.

Развитие государства включает в себя несколько ключевых направлений, прежде всего, инфраструктурное развитие. Это означает строительство и улучшение дорожной сети, мостов, тоннелей. Далее, важным аспектом является развитие производства, включая строительство производственных заводов и производство оборудования, включая высокотехнологичные предприятия.

Железнодорожное сообщение также играет ключевую роль в экономике, особенно учитывая рост доходов железнодорожного транспорта. Ограниченность железнодорожной инфраструктуры становится препятствием для дальнейшего развития. Важно также развивать транспортные связи, включая строительство высокоскоростных магистралей, которые способствуют туристической и экономической активности между регионами. Туризм — это сектор, который имеет потенциал для развития и может стать поддержкой для строительных компаний, позволит создавать отели, рекреационные комплексы и восстанавливать исторические здания даже в удаленных районах.

Кроме того, гражданское строительство, особенно строительство комфортного жилья, играет существенную роль в обеспечении жильем населения, учитывая обновление старых жилых фондов.

Жилищное хозяйство остается ключевым фактором развития, поэтому важно не только поддерживать текущие объемы строительства, но и улучшать их качество, доступность и географию. Жилищное хозяйство играет огромную роль в развитии общества, особенно строительство комфортного жилья, которое находится на историческом пике. Однако это не повод сбавлять темпы. Необходимо прикладывать усилия, поддерживать достигнутые результаты, и совершенствовать качество, доступность и географическое распределение жилья.

Помимо многоэтажных жилых комплексов, всё большую популярность приобретают загородные поселки, где люди могут наслаждаться более комфортными условиями жизни. Эти места становятся как основным местом проживания, так и вторым домом в формате всесезонных дач, коттеджей или загородных домов.

Рынок загородной недвижимости огромен и масштабен, и в каждом регионе требуется специализированные подрядчики для реализации строительных проектов. Этот сегмент рынка также важно поддерживать и развивать. В настоящее время его развитие, в некоторой степени, замедляется из-за стремительного роста стоимости земельных участков. Перечисленные выше направления имеют потенциал создать значительный коммуникативный эффект для всей экономики.

Поддержка стратегических секторов, таких как строительство, может значительно увеличить доходы бюджета на различных уровнях, как на федеральном, так и на региональных, благодаря инвестициям в эти отрасли.

Государству также стоит обратить внимание на необходимость поддержки кредитования в загородном сегменте рынка, учитывая высокие суммы покупки недвижимости и потребность большинства населения в кредитовании. Продление льготного ипотечного кредитования либо разработка новых стимулирующих мер, а также снижение ключевой ставки способно сыграть важную роль в этом процессе.

- Насколько за последний год цифровизация изменила работу застройщиков и их взаимодействие с госструктурами, подрядчиками, проектировщиками? Как влияет на работу застройщиков инициированный регулятором перевод многих процессов в цифру, внедрение новых технологий?

- Позитивный аспект заключается в том, что государство активно стремится к развитию цифровизации и прилагает все усилия для этого. Особенно важна работа нашего премьер-министра в этом направлении.

Упрощение взаимодействия с Росреестром — один из ярких примеров. Хотелось бы видеть еще более активные усилия государства в улучшении качества сервиса и скорости предоставления услуг.

В работе с подрядчиками и проектировщиками цифровизация, к сожалению, пока еще находится на минимальном уровне. Каждая компания в настоящее время самостоятельно использует системы управления взаимоотношениями с клиентами — CRM. Это означает, что есть большой потенциал для дальнейшего совершенствования и развития в данной области. Что касается проектирования — некоторые архитекторы уже перешли на систему проектирования BIM, однако доля их еще не так велика. В некоторых проектах мы также пока продолжаем работать без использования BIM-проектирования, хотя потенциал этого направления колоссален.

- Планируете ли переводить в цифровой формат исполнительную документацию? Если уже перешли, насколько это удобно, в каких моментах требуются доработки?

В цифровом формате исполнительная документация частично используется уже давно, особенно при составлении актов работ с использованием шаблонов документов. Однако сохраняется значительный объем ручной работы, так как требуется добавление сертификатов к конкретным материалам, указание даты выполнения работ, исполнителей и ссылок на изменения в авторских листах. Полностью перевести все эти процессы в стопроцентную цифровую форму в настоящее время невозможно. Было бы удобно иметь возможность использовать цифровую подпись для сбора данных от всех заинтересованных лиц.

- Что в процессе цифровизации вызывает наибольшие затруднения?

- В процессе цифровизации наибольшие затруднения вызывает, вероятно, изменение мышления у исполнителей. Многие в строительной отрасли отличаются консервативным подходом, что требует переобучения персонала и внедрения систем на региональном уровне. Сложность также заключается в унификации и цифровизации различных видов строительных отраслей, учитывая их многообразие и сложность.

- Виктор Алексеевич, есть ли у вас уже опыт использования технологий искусственного интеллекта? С кем из разработчиков ПО сотрудничаете?

- Мы начали активно использовать ChatGPT для улучшения наших маркетинговых исследований, включая создание текстовых и графических материалов, что значительно улучшило качество нашей презентации. Пока мы не опробовали другие технологии от различных разработчиков, но программа от Сбербанка Kandinsky 3.0 продемонстрировала хорошие результаты и показала себя как перспективное решение.

СТРОИМ ПРОСТО

Россия. СЗФО > Недвижимость, строительство. Приватизация, инвестиции. СМИ, ИТ > stroi.mos.ru, 16 мая 2024 > № 4653087 Виктор Лукин

Российский e-com вышел из фазы экспериментов с ИИ

Яков Шпунт

Половина крупнейших российских компаний интернет-торговли получили реальный экономический эффект от внедрения технологий искусственного интеллекта, тогда как традиционная розница лишь экспериментирует с ними. Уровень инвестиций в ИИ традиционной розницы не превышает 2% цифрового бюджета, тогда как компании электронной коммерции инвестируют не менее 3%.

Такие результаты показало исследование консалтинговой компании "Яков и Партнеры", которое стало продолжением большого отчета "Искусственный интеллект в России: тренды и перспективы", подготовленного совместно с "Яндексом". Уровень проникновения ИИ в сфере электронной коммерции, как показало исследование, составил 90%, тогда как в рознице - около 40%.

Компании из сферы электронной коммерции оказались более продвинутыми с точки зрения использования искусственного интеллекта (ИИ). Если 50% компаний традиционной розницы лишь пока экспериментируют с ИИ, то все опрошенные компании онлайн-торговли находятся уже на этапе закрепления ИИ как стратегической цели компании или внедрения технологии во всех функциях и получения реального экономического эффекта. Среди опрошенных компаний ретейла 40% занимаются точечным внедрением ИИ на отдельных участках, и лишь 10% приступили к масштабированию успешных пилотов.

Основной сферой для использования ИИ, как показало исследование, стали клиентский сервис, маркетинг и продажи, а также оптимизация цепочек поставок. Как отметили авторы исследования, наиболее заметна разница в уровне проникновения генеративного ИИ: его применяют 67% компаний интернет-торговли и менее 10% традиционной розницы, в основном для автоматизации ряда маркетинговых задач. По данным, которые привел вице-премьер Дмитрий Чернышенко на форуме Data Fusion 17 апреля, в среднем по России использует генеративный ИИ около 20% российских компаний.

Директор департамента e-commerce ГК "КОРУС Консалтинг" Мария Бар-Бирюкова считает главным драйвером то, что e-commerce-проекты, использующие ИИ, получают как минимум 20% дополнительного дохода и сокращают расходы на 8%, что и показало исследование "Яков и партнеры". Она напомнила, что зарубежные данные еще более впечатляющие: "Аналогичные данные предоставляют и аналитики McKinsey: e-commerce-проекты, использующие ИИ, получают как минимум 20% дополнительного дохода и сокращают расходы на 8%. По другим данным, 84% компаний в сфере электронной торговли считают внедрение ИИ главным приоритетом".

Генеративный ИИ, как отметила Мария Бар-Бирюкова, наиболее часто е-comm-компании используют для генерации описаний товаров с учетом стилистики (или TOV) бренда: "Примечательно, что Ozon тестирует сервис для генерации фотографий одежды на виртуальных моделях. Так продавцы смогут сэкономить на организации съемок своих товаров и ускорить собственный выход на маркетплейсы. Еще ИИ может прогнозировать спрос, сезонность или покупательское поведение. Так, Zalando анализируют большие данные о пользовательских покупках, просмотрах карточек товаров и других данных, чтобы затем предсказывать сезонные тренды и готовить необходимый товар к продажам".

Начальник отдела цифрового моделирования интегратора IBS Андрей Никитин видит основной сферой применения генеративного ИИ общение с клиентами: "Применение больших лингвистических моделей при создании чат-ботов для общения с клиентами позволяет существенно снизить нагрузку при взаимодействии с пользователями. Для e-com это значимые трудозатраты, что объясняет необходимость внедрения данных решений. Большие лингвистические модели помогают решить большое количество задач, основные из которых - это создание цифровых сотрудников поддержки, помощников в написании кода и цифровых HR. Основная сложность - это отсутствие достаточного количества качественных данных, пригодных для обучения моделей".

По мнению директора департамента прикладных решений "ЛАНИТ-ТЕРКОМ" (входит в группу "ЛАНИТ") Дмитрия Медведева, электронная коммерция активно использует и инвестирует в искусственный интеллект: "Связано это с тем, что в e-commerce существует большой объем данных о покупках, предпочтениях клиентов, поведении покупателей и т.д. Это делает отрасль привлекательной для применения ИИ-технологий в аналитике, персонализации и улучшении пользовательского опыта. Вложения в ИИ помогают оптимизировать рекламные кампании, прогнозировать спрос, улучшать конверсию и многое другое. Кроме прямой пользы, внедрения решений на базе ИИ могут служить хорошим инфоповодом для публикации новостей и проведения популяризации платформы, что не только может привлечь новых клиентов, но и способствовать увеличению капитализации компаний, бумаги которых торгуются на бирже".

Директор по развитию направления разработки и внедрения ПО АО "Инфосистемы Джет" Максим Мельситов отметил, что, в отличие от классической розницы, в которой сложнее идентифицировать конкретного клиента (карты лояльности есть у многих, но далеко не у всех), пользовательский опыт маркетплейса может быть полностью оцифрован: "Поэтому крупный e-com, обладая серьезными финансовыми возможностями, идет по пути развития в области аналитики продаж, прогнозирования спроса и генерации персональных рекомендаций. Могу выделить свежую тенденцию - создание "под себя" LLM (Large Language Model) - больших языковых моделей, для обучения которых можно использовать внутреннюю инфраструктуру, тем самым догоняя в развитии таких участников рынка, как "Сбер", "Яндекс" и МТС. Крупные игроки инвестируют в данное направление миллиарды рублей преимущественно в инфраструктурную составляющую - фундамент будущих LLM крупнейших игроков e-com-индустрии".

Как отметил коммерческий директор компании по заказной разработке "Девелоника" (ГК Softline) Роман Смирнов, флагманами в развитии будут ИТ-компании, банки, финтех и только после - представители e-com: "Это связано в первую очередь с тем, что бизнесу еще нужно закрыть ряд потребностей в ИТ-решениях, которые касаются внутренней инфраструктуры и интеграции новых замещенных систем в контур компаний. Для e-com импортозамещение проходило и проходит быстрее, поэтому бизнес готов развивать новое и тратить бюджеты на новые инструменты повышения эффективности. В e-com жесткая конкуренция, и это заставляет компании сектора двигаться быстрее и внедрять новые инструменты, которые могут повысить эффективность".

Директор новых проектов Ensi Сергей Мелихов связывает высокий уровень проникновения ИИ в электронной коммерции сочетанием нескольких факторов: "В электронной коммерции большинство процессов оцифрованы или даже полностью протекают в информационных системах. А значит, улучшать их с помощью технологий искусственного интеллекта проще и естественней. Кроме того, e-com-компании в большинстве случаев изначально развивались как ИТ-организации и успели накопить достаточно экспертизы. Здесь стоит отметить, что хайп вокруг технологий ИИ (AI), машинного обучения (ML) и больших языковых моделей (LLM) случился после выхода популярных продуктов вроде ChatGPT и Midjourney, но в ИT эти подходы применяются давно. Наконец, e-com-компании накапливают большие данные, и, имея этот актив, давно занимаются извлечением добавочной стоимости из них. А в традиционном ретейле работа с данными - это почти всегда проект внедрения инноваций. В итоге для сферы электронной коммерции AI и ML - это всего лишь технические инструменты, которые можно использовать в любой зоне. Эти технологии усовершенствовались и удешевились, и мир сейчас экспериментирует, подбирая для них экономически востребованные ниши. Вполне возможно, что мы через какое-то время перестанем их обсуждать, потому что они станут рядовыми инструментами, как какое-нибудь объектно-ориентированное программирование".

Директор по работе с данными "Авито" Андрей Рыбинцев назвал применение ИИ в e-com давней практикой: "Сфера е-сommerce уже давно занимается внедрением искусственного интеллекта, но последние несколько лет произошла существенная эволюция в этой области. Вместо создания отдельных моделей для каждой задачи компании стали активно разрабатывать универсальные мультимодальные движки, способные эффективно работать с различными типами данных, такими как текст, изображения и видео. Однако такие технологии требуют значительных инвестиций в оборудование и специалистов, обладающих необходимыми навыками работы с крупными моделями и объемными данными. Поэтому доступ к передовым ИИ-технологиям в основном остается прерогативой крупных компаний, часть которых относится к сфере e-com. Мне кажется очевидным, что внедрение нейросетевых технологий будет расти и дальше. В области генерации контента появится масса новых возможностей. Это позволит изменить и методы продвижения - можно будет создавать суперперсонализированные маркетинговые кампании. Для покупателей я ожидаю дальнейшего развития персонализации и приближения к формату one-click shopping. Чем лучше будет сделан контент и настроены рекомендательные системы, тем меньше действий потребуется от покупателя, чтобы найти нужный товар. А если совсем уж фантазировать, то, возможно, такие площадки, как "Авито", смогут сразу рекомендовать товар под потребность - скажем, "подарок женщине, в таком-то возрасте, по такому-то случаю". И одновременно возьмут на себя функцию исследования рынка, выбора оптимального товара среди аналогов. И это, кстати, значит, что текущая рекламная модель может потерять актуальность".

"Алгоритмы ИИ играют стратегическую роль на "Авито", обогащая пользовательский опыт и оптимизируя процессы на всех уровнях взаимодействия. Нейросети, например, используются для анализа изображений при размещении объявлений, что помогает определить тип товара и разместить его в нужной категории, а также заполнить необходимые параметры. В некоторых категориях способности анализа изображений позволяют точно определять текущую рыночную стоимость товаров, например, автомобилей или смартфонов. Их цена сильно зависит от состояния, а это как раз можно определить по фото - обнаружить дефекты или сколы, - продолжает Андрей Рыбинцев. - Автоматизированные рекомендательные системы и персонализированный контент на платформе также основаны на алгоритмах искусственного интеллекта. Кроме того, еще есть алгоритмы, помогающие малому бизнесу эффективно распределять свои рекламные бюджеты. В качестве примера приведу два красивых числа: у нас больше 50% сделок проходят благодаря рекомендациям и 99% объявлений модерируются без участия людей".

Руководитель проектов ООО "СимбирСофт" (SimbirSoft) Владимир Якимков связывает активность e-commerce при внедрении ИИ с необходимостью обработки больших объемов данных, желанием улучшить пользовательский опыт, оптимизировать логистические и управленческие процессы: "Компании в этой отрасли инвестируют значительные средства в развитие ИИ, так как это напрямую связано с увеличением эффективности бизнеса и ростом доходов. Основные области применения ИИ включают персонализацию предложений для клиентов, оптимизацию управления запасами и автоматизацию клиентского обслуживания".

Инженер бизнес-решений SimbirSoft Инна Папикян считает, что e-commerce использует искусственный интеллект во многих направлениях - от лидогенерации до формирования готового продукта для пользователя: "Рекомендательные системы используют многие крупные игроки рынка, в частности, Amazon, AliExpress, "Яндекс.Маркет". Работа алгоритмов машинного обучения в таких системах основана на истории покупок и предпочтениях потребителей. Для автоматизации общения с клиентами и оптимизации логистических процессов ретейлеры используют либо готовые системы, либо уникальные решения, разработанные непосредственно под цели их бизнеса. ИИ также помогает в анализе больших объемов данных о продажах, предпочтениях покупателей и рыночных тенденциях, в оценке эффективности рекламных кампаний и многих других моментов".

Директор направления экспертизы платформы "Сфера", к.т.н. Дмитрий Чувиков связал интерес электронной коммерции к ИИ с тем, что там существует множество применений: "Это персонализация рекомендаций, прогнозирование спроса, автоматизация процессов обработки заказов и многое другое. Кроме того, интернет-торговля обладает большими объемами данных, что делает ее привлекательной средой для применения алгоритмов машинного обучения и глубокого обучения. Относительно затрат, вложения в ИИ в электронной коммерции могут быть значительными из-за конкурентного характера отрасли и стремления компаний к разработке инновационных решений для улучшения пользовательского опыта и повышения эффективности бизнеса. Мы постоянно изучаем и внедряем новые технологии в области ИИ, чтобы оставаться конкурентоспособными на рынке и повышать эффективность бизнес-процессов".

Руководитель продукта GROSA Softline Digital Илья Абоимов особо выделил среди направлений применения ИИ улучшение результатов поисковых запросов продавцов и стимулирование клиентов открывать их товарные карточки: "Для этого маркетплейсы предоставляют сервисы продавцам, такие как оптимизация SEO карточек, генерация фонов для товаров и др., стремясь окупить внедрение технологий ИИ. Поскольку традиционные офлайн-ретейлеры представляют товары на полках, они не могут реализовать подобный функционал. Однако я уверен, что в ближайшем будущем офлайн-ретейлеры также начнут использовать ИИ для создания рекламных материалов, отображаемых на различных экранах внутри торговых точек, с целью улучшения персонализации рекламы для своих клиентов. Кроме того, зарубежные офлайн-ретейлеры внедряют на своих веб-сайтах функцию поиска на основе ИИ для более гибкого поиска необходимых товаров. В данном случае результаты поиска формируются не только на основе названий товаров, но и на основе их содержания, что позволяет находить специализированные позиции, такие как продукты без лактозы или глютена. Кроме того, ИИ может использоваться для извлечения характеристик товаров из их описаний и фотографий, что позволяет быстро обновлять системы управления информацией о продукции".

Директор по развитию Napoleon IT Сергей Белоклоков видит причину практического интереса онлайн-торговли в том, что у компаний данной сферы есть возможность сразу же применять инструменты в уже реализованных продуктах с большой аудиторией: как только компания понимает, какие процессы она может ускорить, улучшить при помощи искусственного интеллекта, она их сразу же может применить.

Представитель пресс-службы ООО "Интернет решения" (маркетплейс Ozon) сообщил корреспонденту ComNews, что для выявления мошеннических событий у Ozon выстроен многоуровневый фрод-анализ, который использует в том числе машинное обучение.

Каждый второй ретейлер выделяет до 2% цифрового бюджета на ИИ, в то время как в интернет-торговле каждая вторая компания инвестирует 3-5%. В целом и те и другие компании ожидают от ИИ сокращения затрат и положительных эффектов с точки зрения лояльности клиентов, однако компании интернет-торговли также верят в повышение ценности продуктов как таковых.

Илья Абоимов подтвердил, что крупные игроки в сфере e-commerce инвестируют больше времени и денег в проекты, связанные с искусственным интеллектом, чем классические офлайн-ретейлеры: "E-commerce традиционно является более современным, гибким и продвинутым сегментом рынка ретейла. В этом секторе практически нет устаревших технологий и процессов, что обеспечивает более эффективное управление разработкой и изменениями, что в свою очередь позволяет быстрее проверять гипотезы".

Сфера электронной коммерции меньше озабочена рисками от использования ИИ. Половина компаний интернет-торговли не видят их вообще, а другая половина обеспокоена исключительно вопросами кибербезопасности. Ключевой проблемой на пути внедрения технологии они видят привлечение специалистов с необходимым профилем, а также отсутствие решений и инструментов на основе ИИ на рынке либо проблемы с их разработкой.

Владимир Якимков среди сложностей, с которыми сталкиваются ретейлеры, особо отметил техническую интеграцию с существующими системами, нехватку квалифицированных специалистов и потребность в значительных начальных инвестициях. Из наиболее популярных рисков он выделил связанные с приватностью и сохранностью данных, и чтобы их минимизировать, по его мнению, важно использовать современные методы шифрования, строго контролировать доступ к данным и проводить регулярные аудиты безопасности.

Инна Папикян считает, что основной бизнес-риск связан с непредсказуемостью развития ситуации в компании, которая решила внедрять у себя ИИ: "Если полагаться на ИИ как на решение всех проблем с продажами, можно оказаться в ситуации, когда компания перестанет понимать покупателя. Всегда важно четко понимать, для чего собираются данные о пользователях и насколько применимы метрики для их сегментации в текущий момент. Потребности покупателей могут измениться, а ИИ не успеет обработать достаточное количество данных для выявления нового тренда. В любом случае все риски можно и нужно предусмотреть до момента активного внедрения ИИ в процессы компании".

Илья Абоимов назвал основным риском внедрения искусственного интеллекта его нестабильность - используемые алгоритмы могут иметь галлюцинации и периодически выдавать неожиданные результаты: "Чтобы избежать этого, те же сервисы в сфере e-commerce, предлагающие услуги на основе искусственного интеллекта, добавляют функционал подтверждения предложенных вариантов по улучшению товарных карточек или их SEO - без подтверждения со стороны пользователей изменения не вносятся. Следовательно, полностью доверять функционалу искусственного интеллекта алгоритмам пока нельзя. Ожидается, что в ближайшие годы проблема галлюцинаций будет решена, что позволит автоматизировать оптимизацию процессов".

Сергей Белоклоков видит основной риск в высокой стоимости проектов внедрения ИИ: "При этом проекты не всегда взлетают так, как компания хотела бы. Результат - потеря времени, денег и, возможно, даже демотивация команды на последующие какие-то подобные решения. Также есть сложность в том, что не всегда получается находить компетентные кадры для того, чтобы подобные инструменты внедрять. И для этого приходится самому эти кадры взращивать внутри компании, а это требует времени и денег".

Дмитрий Чувиков видит основную сложность при внедрении ИИ на практике в сборе, обработке и анализе данных: "Чтобы алгоритмы машинного обучения могли эффективно работать, им требуются качественные и разнообразные данные. В интернет-торговле это может быть особенно сложно из-за больших объемов данных, их разнообразия и необходимости обработки в реальном времени. Кроме того, важно учитывать проблемы конфиденциальности и безопасности данных при сборе и использовании информации о пользователях".

Мария Бар-Бирюкова называет сразу три фактора риска: "Во-первых, не все компании могут обеспечить безопасность данных при внедрении ИИ-технологий. Большие данные в e-commerce агрегируются из большого количества разных систем и на разных платформах - это может затруднить их сбор, хранение, обработку, использование и защиту. Во-вторых, у компаний, особенно небольших, может не хватить ресурсов для инвестирования в подобные технологии. Пока что, за исключением простейших описательных генеративных инструментов, это еще "дорогая игрушка". Наконец, массовое внедрение ИИ в будущем может повлечь изменения в командах: простейшие позиции, такие как операторы по вводу данных, могут просто исчезнуть. Сфера электронной торговли - одна из наиболее активно развивающихся отраслей, в том числе и с точки зрения рынка труда. Поэтому руководителям надо быть готовыми к комбинации ИИ-технологий с работой отдельных сотрудников".

Роман Смирнов обратил внимание, что ряд решений строятся на моделях с открытым кодом, и бизнесу следует понимать, что все, что уходит в нейросети, - обучает ее, в итоге риск утечки существует и будет какое-то время слабым местом технологии. Но этим, по мнению эксперта, возможные проблемы не исчерпываются: "Многие недооценивают момент, связанный с регулированием взаимодействия с ИИ. Вместе с возможностями языковых моделей вырастает и количество угроз и способов применения. Сегодня только происходит ограничение и описание различных НПА и регуляторов, которые предполагают ответственность за противоправные действия с использованием ИИ-технологий. Еще один фактор - это сложность в понимании результата. Некоторые разработчики говорят, что если нейросети обучают люди, то эти нейросети так или иначе будут опираться на человеческий опыт и трактование понятий. Важно понимать, что абсолютно все данные требуют дополнительной обработки и проверки. Многие забывают, что ИИ - это инструмент, работе с которым сотрудников нужно обучать. Информировать о рисках и возможностях, показывать эффективные механики и методики применения, обкатывать результат и проводить фактчекинг информации и данных от LLM. Это большая комплексная работа".

Андрей Рыбинцев напоминает, что использование нейросетей требует значительных вычислительных ресурсов, которые можно получить через покупку оборудования или аренду в облачных сервисах: "Для эффективной работы моделей машинного обучения необходимо иметь качественные и обширные наборы данных, которые будут использоваться для обучения алгоритмов. Это можно сравнить с постройкой крепкого дома: без качественного фундамента в виде правильно подобранных и структурированных данных любая инновационная система искусственного интеллекта будет нестабильной. Дополнительно важно учитывать специфику отрасли и потребности пользователей при выборе и настройке алгоритмов машинного обучения. Это подобно выбору инструментов для мастерской: каждый должен быть точно подогнан под задачу, чтобы итоговый продукт был не только эффективным, но и востребованным среди целевой аудитории. Острой проблемой является нехватка квалифицированных специалистов в области искусственного интеллекта, способных не только разрабатывать и настраивать алгоритмы, но и применять их в контексте конкретного бизнеса. К примеру, в "Авито", по мере роста масштабов компании и численности сотрудников, мы столкнулись с дилеммой, что на рынке просто не можем найти достаточного количества сотрудников нужной нам квалификации. Поэтому мы решили начать системно делиться накопленными прикладными знаниями в области машинного обучения через образование молодых специалистов и стажерские программы - запустили собственную магистратуру в МФТИ и до 2028 г. планируем начать сотрудничество с еще 11 ключевыми профильными вузами".

Максим Мельситов видит основным риском утечку данных пользователей: "Основной риск - это потенциальная утечка пользовательских и транзакционных данных, а также сложность и высокие инвестиции в обучение коммерчески доступных моделей на собственных данных. Выход из данной ситуации мы видим в применении архитектурной модели RAG (Retrieval–Augmented Generation) - альтернативного подхода к обработке данных в LLM. Также компании часто сталкиваются с дефицитом высококвалифицированных кадров, недостатком ресурсов на модернизацию информационных систем и инфраструктуры, а также опыта внедрения ИИ и, как следствие, непониманием всех возможностей его применения. В таких случаях они обращаются за решением своих задач к крупным интеграторам, у которых есть экспертиза в этой области и нужные специалисты".

Сергей Мелихов видит риски исключительно для клиентов, но не для самих компаний: "Технологии - это, как правило, билет в один конец. Компании, которые их не внедряют, обычно перестают быть конкурентоспособными. Поэтому нас всех ждут генеративные изображения в маркетинге и товарном контенте, а также общение с ботами вместо живых людей. Риск для компаний - что они не успеют пройти через эту трансформацию, например, на нее не хватит денег и экспертизы. А вот для клиентов внедрение ИИ ведет к обесчеловечиванию и в конечном итоге ухудшению сервиса, особенно в нестандартных ситуациях, для которых ИИ не сможет выделить подходящий паттерн реагирования".

Россияне проявили пессимизм в отношении ИИ

Яков Шпунт

Только каждый пятый россиянин надеется, что использование искусственного интеллекта несет новые возможности. При этом более трети считает, что он принесет больше проблем. Почти половина респондентов затруднились дать ответ или заявили, что недостаточно информированы.

Такие результаты показал опрос, который провела ассоциация независимых исследовательских агентств Gallup International в 44 странах мира, включая Россию. В России исследование проводил исследовательский холдинг "РОМИР". В российском опросе приняли участие более 1,5 тыс. респондентов.

Как показало исследование, россияне настроены скептично по отношению к использованию искусственного интеллекта (ИИ). Лишь 19% участников опроса считают, что ИИ несет больше возможностей, чем проблем против 31% в среднем по миру. В обратном уверены 34% опрошенных россиян, что чуть меньше, чем в мире (38%). При этом в России почти половина (47%) респондентов призналась в недостаточной осведомленности (30%) или затруднилась с ответом (17%), что существенно больше, чем среднемировой показатель (24% недостаточно осведомлены и 7% затруднились с ответом).

Директор по маркетингу ООО "СЛ Софт" (SL Soft) Олеся Лачугина считает недоверие к любым технологиям естественным процессом: "Адаптация "к жизни" любой новой технологии проходит в несколько этапов. Сперва возникает избыточный оптимизм, когда относительно той или иной инновации и в профессиональных кругах, и в обществе строят завышенные ожидания. За этим неизбежно следует период разочарований, и только после него, обычно через три-пять лет, технология может найти (но это случается не всегда) применение в промышленности или в быту. Поэтому пессимизм россиян по отношению к результатам внедрения ИИ вполне оправдан. Пару лет назад ИИ был на вершине популярности. Прошло время, а практических результатов для населения оказалось не так много - отсюда и определенное разочарование. Но по мере накопления опыта использования ИИ уровень пессимизма снизится. Российский бизнес уже распознал преимущества, которые несет для него применение ИИ. Согласно результатам исследования, опубликованного компанией Kept в начале 2024 г., почти 40% российских компаний в той или иной степени уже используют ИИ-решения".

Генеральный директор АНО "Национальный центр компетенций по информационным системам управления холдингом" (НЦК ИСУ) Кирилл Семион задает вопрос: "А есть ли он - этот пессимизм? В масштабах нашей страны, если говорить о населении и не затрагивать производство и финтех, объемы внедрения ИИ пока очень малы. Подавляющее большинство граждан сталкивается с ИИ, только слыша его ответы при диалоге с банком, например, а также получая контекстную рекламу. Здесь, на мой взгляд, во многом дело в менталитете. Мы пока легко можем различить скрипт и живого человека. А у нас в менталитете гораздо выше ценится именно живое общение".

Директор департамента голосовых цифровых технологий ООО "БСС" (BSS) Александр Крушинский связал полученные результаты с проблемами скорее из области психологии: "Уже сейчас ИИ - а если точнее, нейросети - используются повсеместно: в картографических сервисах, для улучшения качества снимков в камерах мобильных устройств, в алгоритмах рекомендаций социальных сетей и стриминговых сервисов. И большинство людей, которые видят в ИИ проблему, - пользуются этими возможностями каждый день и вполне счастливы этим. ИИ, как и любая новая технология, конечно, будет создавать не только пользу, но и проблемы как технологического, так и социального плана. Как интернет помимо явной пользы создает и ряд проблем, так же и ИИ будет создавать проблемы, с которыми человечество будет стараться бороться (или приспосабливаться к ним). Как видно из опроса - проблемы ИИ россиян волнуют в целом меньше, чем жителей США и Европы, что, скорее всего, вызвано тем, что в России, проблемы ИИ просто меньше обсуждаются в публичном поле".

Коммерческий директор ООО "Девелоника" (ГК Softline) Роман Смирнов напомнил, что ИИ - это очень широкое понятие, и ряд новых технологий, в частности, генеративные сети, действительно могут вызывать настороженное отношение: "Значимая часть алгоритмов применяется давно и с пользой для людей. Это алгоритмы рекомендательных систем и социальных сетей, прогноз погоды, аналитика в приложениях. Всем этим общество пользуется ежедневно без страха и опаски, неосязаемо повышая уровень повседневного комфорта. В этом исследовании, есть ощущение, что люди беспокоятся именно из-за генеративные сети и большие языковые модели. То есть это ИИ, появившийся два года назад и выходящий за рамки выполнения конкретной узкой задачи. Это новые алгоритмы широкого применения. Они проникают все в большее количество отраслей и все чаще встречаются в роли инструментов в российских компаниях. Здесь россиян волнуют вопросы кибербезопасности, мифы о замещении специалистов ИИ и большое количество информации, в которой тяжело разобраться, если ты не айтишник".

Эксперт центра искусственного интеллекта СКБ Контур Дмитрий Иванков не считает результаты опроса свидетельством пессимизма россиян: "Результаты опроса позволяют сделать вывод о том, что в России все же не преобладает пессимизм - тех, кто считает, что ИИ принесет больше проблем примерно столько же, сколько и в целом в мире - 38% против 34%. Другое дело, что несколько ниже уровень информированности об ИИ-технологиях в целом. При этом по миру общий процент таких же ответов составил лишь примерно треть от общего количества опрошенных".

Партнер и директор по развитию HRlink Дмитрий Махлин связал полученные в ходе опроса результаты с тем, что вокруг ИИ сложилось много мифов: "Если посмотреть на опрос Gallup в региональном разрезе, то мы увидим, что проблем от ИИ в западных странах ожидают еще большая доля ответивших, чем в России. В российском опросе на долю тех, кто не сформировал мнения, приходится 47%. Неизвестное всегда пугает, люди начинают додумывать - кто-то настроен позитивно, а кто-то предпочитает верить в негативный вариант развития событий".

По мнению генерального директора "ЛАНИТ-ТЕРКОМ" (входит в группу ЛАНИТ) Вадима Сабашного, настороженное отношение россиян к ИИ связано с двумя полярными мнениями: "В первом случае есть видение, что ИИ может решать задачи лучше и быстрее людей. Из-за этого и возникает отторжение к технологии как к конкуренту на рынке труда. Некоторые рассматривают ИИ как игрушку, популярность которой постепенно сойдет на нет с падением ажиотажа. Сам я не разделяю подобных взглядов, но отмечу, что ИИ не является лекарством от всех болезней. Это технология, которую необходимо правильно применять, что требует значительных вложений сил и ресурсов".

Начальник отдела цифрового моделирования IBS Андрей Никитин видит главной предпосылкой настороженного отношения россиян к ИИ опасения за сохранение рабочих мест: "Важно отметить, что многие опасаются смены профессий. Проще говоря - умная машина заменит человека. Отчасти это справедливо, но только для узкого сегмента специальностей, а для большинства профессий будет увеличена эффективность труда, так как ИИ будет выполнять рутинные задачи".

Руководитель проектов ООО "СимбирСофт" (SimbirSoft) Владимир Якимков связывает настороженное отношение к ИИ со страхом перед потерей рабочих мест, усилением контроля и надзора, а также возможными злоупотреблениями (например, создание дипфейков или манипуляции общественным мнением). Однако крупный бизнес, по его мнению, не сможет отказаться от ИИ, чтобы не допустить отставания в технологиях.

Менеджер продуктов Innostage Евгений Сурков считает, что для пессимизма есть определенные основания: "Пессимизм граждан может быть вызван боязнью вмешательства государства и особенно крупных, неподотчетных им, в том числе - коммерческих структур в частную жизнь. Потенциальные возможности крупных структур в этом направлении в сознании граждан сильно связаны с темой больших данных и используемого для их обработки искусственного интеллекта".

"ИИ несет большой потенциал, который может быть использован в недобросовестных целях. Например, киберпреступники используют ИИ-инструменты для распознания букв и цифр по звуку клавиш (в том числе для паролей и конфиденциальной информации), создания дипфейков для взлома цифровых аппаратов, использующих биометрию для подтверждения личности и т.д.", - продолжает руководитель ИТ-подразделения Агентства "Полилог", автор Telegram-канала "ГОС ИТ Богатырева" Людмила Богатырева.

Директор отделения автоматизированного тестирования IBS Денис Воденеев связал пессимизм россиян с тем, что в России внедрение ИИ в повседневность людей ограничено или отечественными сервисами, или более менее узкоспециализированными решениями: "В повседневной жизни западной общественности такие системы как ChatGPT, Midjourney, Bart и другие участвуют весьма активно. Так что доступность остается драйвером для оценки эффективности. Со стороны бизнеса уже есть кейсы успешного внедрения ИИ. Но доля необходимых инвестиций, а также осознание реального отсутствия необходимости уже немного снижает изначальный тренд на внедрение ИИ повсеместно".

Руководитель проектов развития AI-решений Directum Илья Петухов называет причинами недоверия ИИ недостаточную осведомленность и неверное представление о возможностях технологии: "Пугающие и тревожные новости лучше тиражируются, поэтому на поверхности часто остаются преувеличенные страхи, навязанные инфошумом, что ИИ заменит человека, оставит всех без работы и пр. Ситуация кадрового дефицита помогает снимать эти тревоги. Но есть другая проблема - завышенные ожидания от ИИ. По опыту общения с клиентами Directum, многие из них ждут, что ИИ будет делать за людей абсолютно все, и его не нужно будет контролировать. Но ожидания пользователей сталкиваются с неидеальной реальностью, рождая разочарования".

Руководитель отдела промышленного интернета вещей UMNO digital Дмитрий Серов прямо связал неосведомленность и отторжение технологии ИИ: "Как мы видим из исследования, треть населения недостаточно осведомлена по данной тематике, что рождает непонимание и отторжение технологии. В реальности многие просто не ощущают влияния ИИ на их жизнь, т.к. либо не знают, что они уже пользуются сервисами с применением технологии, либо не увидели ценность продукта с ИИ. Это усугубляет то, что вместо популяризации реальных возможностей помощи ИИ в жизни людей, больше упоминают негативные последствия, которые якобы могут случиться. А у многих еще живы в памяти такие фантастические сюжеты, как Терминатор со Скайнет и т.п. Если говорить о недоверии, то подсвечивается ситуация правового регулирования. Как говорил один мой знакомый: "Решение примет машина, а отвечать тебе". Это и является причиной недоверия, если человек не может управлять системой, то и положиться на нее не готов".

Руководитель отдела инноваций ООО "ЭджЦентр" (EdgeЦентр) Евгений Морозов связал пессимизм по отношению к ИИ в России с двумя факторами: "Во-первых, это опасения по поводу потери рабочих мест из-за автоматизации, которые ИИ может принести. Во-вторых, существует страх перед неизвестным и потенциальной угрозой для личной безопасности и приватности".

Консультант практики "Стратегия трансформации" "Рексофт Консалтинг" Дмитрий Груднев считает, что корректнее говорить не о недоверии к ИИ со стороны россиян, а их недостаточной информированности: "Данные опроса могут говорить не столько о пессимизме, сколько о недостаточной информированности россиян: почти половина (47%) были недостаточно информированными для ответа или затруднились ответить на вопрос. На мой взгляд, одна из основных причин недоверия - отсутствие на рынке большого количества продуктов с ИИ-функционалом, нацеленных на решение широко распространенных задач и удобных для конечных пользователей. Большинство людей пока не видит значительного влияния ИИ на профессиональную и бытовую жизнь. Скептическое отношение к технологии может замедлить темпы внедрения ИИ-решений и затормозить развитие ИИ-рынка в России, особенно в сегменте B2C".

Директор дирекции кибербезопасности IBS Олег Босенко считает, что говорить о пессимизме не вполне корректно, причем не только в России, но и в мире: "Внедрение в повседневную практику технологий ИИ или более правильно — технологий машинного обучения, идет нарастающими темпами. На уровне специалистов в ИТ это уже признанный факт. Не просто очередной тренд, а целенаправленный вектор развития. На пользовательском уровне надо учитывать: обычному пользователю, как правило, не важно получает он электронный сервис с ИИ или без ИИ. Его интересует сам эффективный сервис. Что касается молодого поколения, то освоение и применение в этом возрастном сегменте языковых моделей настолько широко, что иногда хочется остановить этот поток. Для молодежи ИИ - смесь хайпа и активного освоения технологии. Увлечение необходимыми языками программирования также велико. Поэтому говорить о пессимизме в России я бы не стал. Следует также учитывать и задачи, поставленные президентом по применению и внедрению ИИ. Вряд ли эти задачи формировались на основе пессимистических оценок. Предложил бы долю пессимизма уменьшить до 20-25%, при этом считать это скорее опасением недостаточно своевременного решения вопросов противодействия угрозам и негативным последствиям применения ИИ".

Владимир Сабашный опасается, что подобный пессимизм может вызывать сопротивление новым технологиям на местах, что в итоге будет тормозить развитие и уменьшит эффективность применения инноваций: "Если такие настроения присутствуют у лиц, принимающих решения, то они просто остановят внедрение новых технологий на отдельно взятых предприятиях. В силу того, что применение ИИ в конечном счете направлено на повышение эффективности труда, то эмоциональный и нерациональный подходы могут затормозить развитие экономики в целом".

Илья Петухов считает настороженные настроения серьезным фактором, который может привести к нежеланию использовать и отторжению ИИ, однако, по его мнению, со временем ситуация изменится в лучшую сторону: "В истории человечества было множество технологических революций (электричество, автомобили, граммофоны, смартфоны и прочее). Общество принимало инновации и адаптировалось к ним, но это требовало времени".

Евгений Морозов считает, что такие общественные настроения могут замедлить принятие и интеграцию ИИ в различные сферы жизни, что может сдерживать технологическое развитие и инновации в стране. Также, по его мнению возможно усиление общественного недовольства и рост сопротивления технологическим изменениям.

Директор по развитию GoodsForecast Сергей Котик обратил внимание, что недоверие ИИ может порождать саботаж проектов по внедрению соответствующих решений: "Недоверие к технологиям и нежелание перемен в первую очередь выливается в саботирование проектов на местах. Сотрудники могут начать еще больше сопротивляться процессам цифровизации, замедляя внедрение и применение новых инструментов. Непонимание того, как ИИ влияет на рынок труда и на востребованность различных навыков у работодателей, может привести к росту тревожности у людей. Это негативно отражается на мотивации, на уровне напряженности в обществе в целом, на потребительском поведении - больше импульсных трат, больше потребления нездоровых продуктов, сладкого, алкоголя. В этом смысле ИИ может стать еще одним серьезным фактором стресса".

Технический директор ООО "Прогрессивные информационные технологии" (Simpl) Илья Старков связывает пессимизм с тем, что люди не знают глубоко, что из себя представляет ИИ и делают выводы на основании информации из телевизора или СМИ. Однако, по его оценке, этот пессимизм не окажет существенное влияние на развитие алгоритмов машинного обучения и ИИ: "Развивают и продвигают технологии те, кто верят, что развитие ИИ увеличит производительность труда и избавит людей от части монотонной работы и сделает ее более творческой. Преодолевать скептическое отношение людей не стоит. Все зависит от уровня адаптированности людей к новой реальности. Возможно, задача в том, чтобы не допустить негативного опыта у аудитории при разработке тех или иных продуктов. Кроме того, компании, которые повысили производительность труда сотрудников за счет внедрения ИИ будут более конкурентоспособны и смогут предложить значительно низкие цены за те же услуги, что и компании без ИИ. В итоге заказчик выберет тех, у кого дешевле, без потери качества продукта".

По мнению Дениса Воденеева, настороженное отношение рядовых россиян не сможет существенно замедлить темпы развития ИИ: "Не стоит забывать, что главными драйверами являются государство и бизнес. Принятые законы по стратегическому развитию в РФ подразумевают внедрение ИИ в ряд государственных учреждений и процессов. Со стороны бизнеса уже есть успешные примеры внедрения и продолжаются реализации стратегий внедрения ИИ в текущие процессы".

Дмитрий Махлин не считает, что определенный скептицизм россиян в отношении ИИ приведет к каким-то последствиям: "Технологический прогресс невозможно остановить. Мы проводили исследование о восприятии ИИ в среде кадровых специалистов, и 70% опрошенных ответили, что будут рады переложить рутинные задачи на ИИ-помощников. Иными словами, профессионалы, которые понимают, как конкретно технология может помочь в их работе, позитивно относятся к искусственному интеллекту".

При этом Роман Смирнов обратил внимание на то, что люди, которые из-за отторжения ИИ его не используют, сами снижают конкурентоспособность на рынке труда: "Если человек настроен с опаской или негативом, вероятнее всего, он не станет пользоваться технологией, будет игнорировать ее. В этом случае, через некоторое время тот, кто овладел ИИ окажется более желанным сотрудником (и так происходит уже не только в ИТ-отрасли, но и в других), чем его пессимистичный коллега. Некоторые программисты, которые открыты новому и смотрят на возможности, уже выигрывают в эффективности по ряду задач. Важно понимать, что ИИ - это не микротренд на пару лет, он с нами надолго. Поэтому на рабочем месте людей начнут заменять не ИИ-технологии, а другие люди, которые их освоили лучше. Важно понимать, что если не осваивать технологические новинки, можно остаться на одном месте и лишить граждан возможностей развиваться и двигаться вперед. Если бы не внедрялись паровые машины и паровозы, до сих пор все бы ездили на лошадях. Технологический прогресс неизбежен, и позитивное отношение к нему позволяет идти в ногу со всем остальным миром и усиливать позиции и в уровне жизни, и в производительности труда".

Инженер бизнес-решений SimbirSoft Инна Папикян считает, что устранить настороженное отношение к технологиям поможет расширение доказательной базы пользы применения ИИ в разных сферах: "Чтобы сформировать доверие и начать интегрировать ИИ в жизнь, необходимо проводить больше исследований, начать создавать доказательную базу. Исследования в области ИИ и его влияния на различные аспекты жизнедеятельности будут порождать новые дискуссии и рефлексию общества, что положительно скажется и на внедрении ИИ".

Евгений Морозов считает, что преодолеть этот пессимизм поможет обеспечение прозрачности процессов, связанных с ИИ, и широкая просветительская кампания, которая бы донесла до широкой общественности те преимущества и возможности, которые технология может предложить. Также, по его мнению, необходимо фокусироваться на образовании и подготовке специалистов, которые смогут адаптироваться к новым рабочим реалиям. Важно, как подчеркнул Евгений Морозов, создать поддерживающую среду для обсуждения этических и социальных вопросов, связанных с ИИ, чтобы люди были вовлеченными в процесс и понимали, что их опасения учитываются. Роман Смирнов при этом напомнил, что журналисты, ученые и разработчики программного обеспечения и сервисов сами находятся в процессе понимания стадий развития и будущего потенциала технологии.

Илья Петухов считает, что для преодоления негативных настроений в обществе надо продолжать популяризацию технологии: "Нужно запускать информационные кампании, которые будут разъяснять преимущества и возможности ИИ, демонстрировать успешные примеры его применения, проводить работу на местах, формировать и соблюдать этические стандарты и нормы использования ИИ. Ну и конечно, нужно обеспечить подготовку и переподготовку кадров, чтобы люди могли адаптироваться к изменяющимся условиям труда и использовать новые технологии для развития и карьерного роста. Насколько мне известно, эти векторы развития и популяризации ИИ присутствуют в январских поручениях президента страны и уже успешно реализуются".

Сергей Котик считает усилия по информированию и переквалификации недостаточными: "У нас и на уровне бизнеса, и даже на государственном уровне уже существует много инициатив и ведется большая работа в части переквалификации, повышения технологической грамотности, информирования. Но пока вся эта активность затрагивает не так много людей, даже среди целевых аудиторий, на которые она направлена. Когда у человека будет четкий ответ на вопрос "что это значит для меня и как мне с этим теперь быть" и когда люди начнут что-то делать для адаптации к изменениям, то пессимизма будет меньше. Второй момент - это непосредственно истории успеха в бизнесе. Это то, о чем тоже нужно говорить. Возможно, даже не в ключе, какие бывают инструменты, а в ключе управления изменениями и последовательного перехода на новые цифровые рельсы".

Дмитрий Груднев уверен, что преодолеть пессимизм поможет развитие ИИ-функционала в существующих продуктах, а также появление новых продуктов, нацеленных на решение насущных проблем пользователей. Также, по мнению представителя "Рексофт", важно повышать информированность о технологиях, рассказывать людям в понятных терминах и с примерами, как инструменты с применением ИИ облегчают жизнь или профессиональную деятельность, разоблачать мифы о том, что ИИ полностью заменит некоторые профессии, рассказывать о возможных карьерных перспективах.

Владимир Якимков считает, что крайне важно внедрять нормативно-правовые рамки, которые будут регулировать использование ИИ, защищая при этом права и свободы граждан, при этом особое внимание следует уделить этическим аспектам развития ИИ и гарантировать, что технологии служат интересам всего общества, а не отдельных компаний или государств.

Владимир Сабашный при этом призывает не только показывать новые возможности технологии на конкретных примерах, но и не способствовать развитию завышенных ожиданий от ИИ, причем как у широких масс населения, так и у руководителей.

По мнению Олеси Лачугиной, пессимизм начнет исчезать по мере роста зрелости технологий: "Внедрение ИИ-решений связано и с определенными опасениями и рисками. Технологии пока несовершенны: часто меняются платформы и алгоритмы, все еще прорабатываются многие юридические и этические вопросы, связанные с ИИ. Однако люди смогут адаптировать новый мощный инструмент ИИ и обеспечить контроль за его применением. По мере повышения зрелости технологий и качественного (без излишнего запугивания) информирования людей уровень доверия к ИИ возрастет".

"Я не думаю, что его (пессимизм) надо как-то преодолевать. Оптимизм в отношении техногенных рисков может создать существенно больше проблем, чем пессимизм, так что - пусть будет", - заявил Александр Крушинский.

Большинство транзакций со стейблкоинами совершают не реальные пользователи

Анна Швецова

Лишь около 10% объема транзакций со стейблкоинами совершают реальные люди. Таковы выводы совместного исследования платежной компании Visa Inc. и платформы Allium Labs. Большинство транзакций связаны с торговыми ботами, автоматизированными сервисами и крупными трейдерами. Однако не все эксперты согласны с такой оценкой.

Согласно исследованию, более 90% транзакций стейблкоинов оказались "неорганическими платежами". По данным Visa, из общего объема транзакций на сумму около $2,2 трлн в апреле только $149 млрд получены за счет "обычной платежной активности". Такие выводы удалось сделать благодаря сервису от Visa и Allium Labs, который отсеивает транзакции, инициированные ботами и крупными трейдерами, и изолирует транзакции, совершаемые реальными людьми.

"Это означает, что стейблкоины все еще находятся на начальном этапе развития как платежного инструмента", - прокомментировал статистику исполнительный директор платежной платформы Airwallex в регионе EMEA Пранав Суд. Также он заявил, что у стейблкоинов есть долгосрочный потенциал.

Основатель телеграм-канала "Все о блокчейн, мозге и Web 3.0" Ани Асланян рассказала ComNews, что использовать ботов начали давно и это распространенная практика в криптоиндустрии, а с появлением ChatGPT они стали более востребованными.

Аналитик ФГ "Финам" Никита Степанов считает выводы исследования не совсем верными: "Статистика преувеличена, так как там присутствует двойной учет - например, при конвертации USDC в PYUSD транзакция учитывается дважды. А то, что большинство транзакций совершаются не реальными людьми, а роботами, это правда, так как стейблкоины, особенно USDT, используются в торговле криптовалютами, и многие фонды используют алгоритмическую торговлю. Все эти транзакции на централизованных и децентрализованных биржах совершают боты, которые для этих целей создают фонды. Также смарт-контракты засчитываются как транзакции ботом".

В российском законодательстве нет понятия "стейблкоин", поэтому оно фактически находится в серой зоне. Однако Ани Асланян объяснила, что Министерство финансов РФ рассматривает стейблкоин как цифровой финансовый актив на денежное требование, который делают некоторые компании. Никита Степанов напомнил, что в правительстве ведутся дискуссии по статусу криптовалют в РФ. "Эксперты считают, что исход для криптовалют должен быть положительным", - сказал Никита Степанов.

Также по словам Никиты Степанова, стейблкоины часто использует малый и средний бизнес, ориентированный на внешнеэкономическую деятельность, - тенденция зародилась в 2022 г. после введения санкций, ограничивающих работу международных платежных систем. Кроме того, они популярны и у физлиц, отправляющих средства за рубеж.

Опрошенные ComNews эксперты согласились, что в России популярность стейблкоинов будет расти. "По мере закрытия экономики интерес к этим активам будет расти. Например, с помощью них граждане РФ могут через децентрализованные финансовые протоколы владеть зарубежной недвижимостью, инвестировать в облигации госдолга США и др.", - отметил директор по коммуникациям Exmo.me Михаил Смирнов.

Ани Асланян рассказала, что стейблкоины становятся глобальным трендом. Общая стоимость расчетов со стейблкоинами растет, в 2022 г. сумма достигла более $7 трлн. В то же время Mastercard в 2022 г. обработала $2,2 трлн.

Клиенты банков все больше отдают предпочтение чат-ботам

Анна Швецова

В I квартале 2024 г. доля онлайн-диалогов с банком среди всех каналов общения у россиян выросла до 46%. Годом ранее этот показатель составлял 37%. При этом почти все крупные банки для онлайн-общения используют чат-боты. Однако самым популярным способом общения с организацией остаются звонки - на них приходится 52%.

Таковы данные банка "Русский стандарт" - представители организации проанализировали обращения клиентов в "Русский стандарт" за 2023 г. и I квартал 2024 г.

В 2024 г. в чаты банка чаще всего обращались, чтобы проконсультироваться по поводу счета карты, кредита, для получения выписки, справки.

Несмотря на растущую популярность диалогов в чатах, лидером по обращениям остаются звонки в контактный центр. Хотя их доля падает: в I квартале 2024 г. она составила 52%, а годом ранее - 62%. Обращения чаще всего составляют консультации по счету карты, кредитному счету, а также оформлению заявки на кредит.

Наименее популярны письма с сайта, финансовые маркетплейсы и соцсети - на них приходится 2% обращений.

Популярность чатов представители банка связывают с удобством и безопасностью: разговор по переписке не слышат окружающие, а к незаконченному диалогу можно вернуться в удобный момент.

Представитель банка отметил, что растет популярность виртуальных собеседников. В "Русском стандарте" 46% текстовых диалогов обрабатывает чат-бот - он консультирует по 150 тематикам в рамках 124 сценариев.

Около 70% банков из топ-30 используют чат-боты с разным процентом автоматизации, рассказал директор департамента голосовых цифровых технологий компании - разработчика комплексного программного решения BSS Александр Крушинский.

Однако он отметил, что пока чат-боты работают в банках вместе с живыми операторами, которых вряд ли полностью вытеснят в ближайшие годы. "Чат-боты эффективны в обработке стандартных запросов и предоставлении базовой поддержки, но для более сложных сценариев общения или решения проблем, требующих персонализированного подхода, необходимы люди, - считает Александр Крушинский. - Чат-боты скорее дополняют операторов, предоставляя возможность быстрого и автоматизированного обслуживания клиентов в реальном времени".

За последний год чат-боты значительно усовершенствовались вследствие активного развития больших лингвистических моделей, считает замруководителя направления "Финтех" в экосистеме для бизнеса "Контур" Алексей Евдокимов. "Чат-боты, построенные с использованием этих технологий, сделали мощный скачок в качестве диалогов без привлечения операторов. Если год-два назад они были скорее "помощниками", снимающими с оператора часть рутинных задач, то сейчас по большому спектру типовых запросов чат-боты могут оказать полноценную консультацию "под ключ", - считает Алексей Евдокимов.

Однако он тоже согласен, что для более сложных и персонализированных запросов необходимы операторы. "В случае возникновения серьезной проблемы клиенту часто бывает важно решить ее "голосом", когда на второй стороне будет живой человек, который скажет, что проблема решена и беспокоиться не о чем. Мы и дальше, скорее всего, будем наблюдать этот тренд, и голосовой канал будет смещаться в сторону премиального сервиса", - предположил Алексей Евдокимов из "Контура".

Применение чат-ботов собеседники ComNews считают безопасным при надлежащих условиях: если банк предпринимает необходимые меры для защиты данных и если клиент соблюдает основы информационной безопасности. Однако руководитель направления киберразведки оператора сервисов киберзащиты Innostage CyberART Александр Чернов указал, что чат-боты могут нести угрозы. Чтобы их избежать, следует учитывать логику работы технологии с данными - были случаи, когда пользователям ChatGPT удавалось сформировать запросы, которые не должны выполняться в обычных условиях (к примеру, ключи активации Windows). Также организациям важно убедиться, что только авторизованные пользователи имеют доступ к чат-боту и его функциональности по работе с данными пользователей или разделять функциональность чат-ботов для авторизованных и неавторизованных клиентов.

Кроме этого, банки внедряют и другие инструменты коммуникации с клиентами. "Все идет к упрощению пользовательского опыта и Customer Journey Map, что подразумевает минимизацию времени и трудозатрат со стороны клиента при использовании финансовых сервисов. В рамках тренда стоит ожидать дальнейшего развития голосовых помощников и персональных ассистентов, которые смогут адаптироваться под характер и потребности клиента. С учетом высокой конкуренции в сфере финансовых услуг мало иметь хороший продукт - теперь нужно еще и нравиться на эмоциональном уровне", - считает менеджер по работе с клиентами разработчика ИТ-систем для бизнеса "Синимекс" Максим Жаров.

Александр Крушинский (BSS) рассказал, что с развитием голосовых технологий банки начинают внедрять голосовые интерфейсы для общения с клиентами: "Это повышает доступность и удобство услуг для клиентов, в том числе с ограниченными возможностями или предпочитающих голосовые команды". Также банки развивают омниканальные стратегии коммуникации, которые включают мобильные приложения, веб-порталы, социальные сети и другие каналы.

Почему закон не признает авторства искусственного интеллекта

Антон Гурко (кандидат юридических наук, старший преподаватель кафедры гражданско-правовых дисциплин РЭУ имени Г. Плеханова)

Генеративный искусственный интеллект открывает новые возможности для творчества и создания креативного контента. За последние несколько лет такие программы стали доступны обычным пользователям. Наиболее известны MidJourney для генерации изображений и видео и ChatGPT для имитации общения (чат-бот) и производства текстов. В интернете появилось значительное количество сгенерированных системами ИИ объектов, которые по внешним признакам неотличимы от объектов авторского права, созданных человеком.

Формально контент, сгенерированный в автоматическом режиме, не охраняется, так как не имеет автора. На сегодня законодатель не признает авторства за системами искусственного интеллекта. Согласно пункту 1 статьи 1228 Гражданского кодекса РФ (часть четвертая), автором может быть только человек, творческим трудом которого создан результат интеллектуальной деятельности. Такой же подход закреплен и в большинстве зарубежных стран.

Но как защитить интересы пользователей, сгенерировавших контент с помощью ИИ? Существует несколько точек зрения: такие объекты не должны охраняться, на них следует закрепить смежные с авторскими права или иной - более узкий - объем прав. Однако на практике проблематично установить, какой контент создан человеком, а какой - системами искусственного интеллекта.

Согласно статье 1257 ГК, лицо, указанное в качестве автора на оригинале или экземпляре произведения, считается его автором, если не доказано иное. Если лицо, сгенерировавшее контент с использованием систем ИИ, указывает себя как автора, то оно будет обладать всем объемом интеллектуальных авторских прав. Причем доказывать авторство не требуется, а оспорить его можно только в суде. Причем сделать это очень сложно, если только само лицо не признается, что объект сгенерирован в автоматическом режиме. Показательна ситуация, когда студент успешно защитил диплом, сгенерированный ИИ. Если бы он сам не признался в этом в соцсетях, работа считалась бы творческой и охранялась авторским правом.

Разумным было бы завершить дискуссии о возможности охраны объектов, генерируемых ИИ, и признать их объектом авторского права. В свое время похожие споры велись в отношении фотографий и кинофильмов, поскольку считалось, что человек при их создании не выполняет творческой функции.

Чтобы научить нейросеть создавать картинки или тексты, в нее нужно загрузить большой объем охраняемых произведений. Их элементы будут использованы при создании новых объектов. Творцы во всем мире справедливо опасаются, что это обесценит их труд. Например, осуществление контроля над использованием произведений нейросетями было одним из требований в рамках забастовок сценаристов и актеров в США в 2023 году.

Развитие генеративного ИИ не получится отменить или остановить. Но оно должно протекать в русле закона и с учетом правомерных интересов людей. Целесообразно говорить не о том, охраняются ли генерируемые искусственным интеллектом объекты, а о том, что нужен механизм защиты имущественных интересов авторов в связи с использованием их произведений системами ИИ.

От хакера до защитника: эксперты предложили идеи по привлечению молодежи в сферу инфобеза

Анна Швецова

В 2023 г. петербургские системы информационной безопасности отразили более 172 тыс. кибератак на государственные информационные ресурсы - на 15% больше, чем в 2022 г. Участники конференции "Цифровая безопасность", которая прошла в рамках выставки "Экспотехностраж. День передовых технологий", обсудили вопросы информационной безопасности.

В рамках конференции прошло пленарное заседание "Щит и меч цифрового мира". Оно было организовано при поддержке Комитета по информатизации и связи Санкт-Петербурга и экспертного клуба "ИТ-Диалог".

Вице-губернатор Санкт-Петербурга Станислав Казарин рассказал, что в 2023 г. петербургские системы информационной безопасности отразили более 172 тыс. кибератак на государственные информационные ресурсы - это на 15% больше, чем годом ранее. По итогам I квартала 2024 г. отмечено некоторое снижение атак. Тем не менее предварительно зафиксировано более 6,5 тыс. попыток проведения особо серьезных компьютерных атак.

"Совершая киберпреступления, люди не "касаются" жертвы, ни у кого нет физических увечий. Однако эти бескровные преступления не менее вредны, а иногда и более опасны для общества", - отметил модератор заседания заместитель генерального директора ГК "Гарда" Рустэм Хайретдинов.

Участники конференции отметили, что среди хакеров есть дети и подростки, и обсудили, как противостоять романтизации хакерства у молодежи.

Заместитель министра цифрового развития, связи и массовых коммуникаций РФ Александр Шойтов считает, что нужно показывать хакерам негативные последствия причиненного ими вреда, а также привлекать молодежь в сферу информационной безопасности через киберчемпионаты и программы Bug Bounty.

Он также отметил, что необходимо актуализировать законодательство: по его словам, пока там общие нормы, их необходимо конкретизировать.

Станислав Казарин уверен, что нужно показывать школьникам альтернативные пути, вовлекая их в киберспортивные соревнования и чемпионаты. Например, активно развивается формат фиджитал - вид спорта, который сочетает виртуальные и традиционные состязания. Он предложил университетам проводить такие соревнования в Петербурге.

Также Станислав Казарин заявил о необходимости активной рекламы и пропаганды среди детей и подростков, чтобы воспитывать в них неприятие нелегальных способов получения данных.

"Для города принципиально важна работа со школьниками младших, средних, старших классов. Важно рассказывать им о цифровой гигиене, безопасности, воспитывать их правильно", - отметил Станислав Казарин.

Технический директор Weblock Лука Сафонов рассказал, что многих молодых людей привлекают в сферу высокие заработки. По его словам, талантливый багхантер может зарабатывать в среднем 300 тыс. руб. при занятости полтора-два часа в день. "Это буст для молодежи. И не надо никуда ехать, переезжать в другие города - можно дома зарабатывать, если комфортно. Плюс никто не обвинит в правонарушениях", - рассказал Лука Сафонов.

Руслан Киричек, ректор СПб ГУТ им. проф. М.А. Бонч-Бруевича, призвал компании сотрудничать с вузами - преподавать, проводить лабораторные работы, практические занятия - часто именно в результате такого взаимодействия студенты устраиваются на работу в компании.

Эксперты согласились, что с помощью машинного обучения можно создать много убедительных сценариев для фишинговых рассылок, на которые попадется большинство пользователей. Это подтверждает и статистика. Вице-губернатор Станислав Казарин напомнил о недавнем исследовании швейцарских ученых, которые выяснили, что ChatGPT-4 на 82% убедительнее человека в дебатах.

Также эксперты обратили внимание на участившиеся случаи мошенничества с помощью дипфейков.

Рагим Ахадов, советник губернатора Ленинградской области по цифровизации, считает, что технология пока недостаточно развита и сейчас с ней несложно бороться. Однако с ним не согласился Лука Сафонов. Он рассказал, что технология достаточно развита и находится в открытом доступе, что является проблемой.

"Появляются средства, которые по ряду параметров, тестов позволяют выявить, модели перед тобой или нет. Благодаря определенным действиям - например, резким движениям головы - они могут засечь аномалии, которые явно дадут понять, что человек скрыл лицо. Такие технологии хотя и запаздывают, но развиваются и не стоят на месте", - объяснил Лука Сафонов.

Игорь Бедеров, основатель компании "Интернет-розыск", руководитель департамента информационно-аналитических исследований компании T.Hunter, объяснил, что даже обезличивание данных не всегда гарантирует защищенность от киберугроз.

Он рассказал, что иногда злоумышленники по рекламному идентификатору вычисляют его владельца по поведению в Сети. "Это проблема ближайшего будущего", - считает Игорь Бедеров.

Станислав Казарин посоветовал чаще чистить кеш и меньше рассказывать о себе в социальных сетях - оттуда злоумышленники могут почерпнуть нужную информацию. Также он призвал пользоваться российскими антивирусами и платформами.

"Наша основная задача - перевести максимальное количество пользователей на российские платформы: они в российском правовом пространстве, в наших технологических возможностях контролировать их защищенность. Если человек пользуется услугами иностранных платформ, то его защита во многом находится в зависимости от них", - объяснил Станислав Казарин.

Россия. СЗФО > СМИ, ИТ. Образование, наука. Госбюджет, налоги, цены > comnews.ru, 4 апреля 2024 > № 4621099 Станислав Казарин

В вопросе найма искусственный интеллект пока еще не помощник

Алексей Миколенко

У 42% российских компаний HR-процессы не автоматизированы, а искусственный интеллект в процессе подбора и адаптации сотрудников используют лишь 5% компаний. Игроки рынка считают, что пора постепенно уходить от ручных решений.

"МТС Линк" и hh.ru провели исследование уровня цифровизации и автоматизации HR-процессов в российских компаниях, в котором приняли участие 388 респондентов - лиц, принимающих решение о найме, из организаций разного размера: от микропредприятий с менее чем 50 сотрудниками, до крупнейших организаций со штатом более 3000 человек. 62% опрошенных уверены, что за счет автоматизации повышается кадровая эффективность. Тем не менее у 42% российских компаний HR-процессы не автоматизированы. "Если среди микропредприятий (с количеством менее 50 сотрудников) полностью вручную работают 52%, то 72% крупнейших компаний (с более чем 3000 сотрудников) так или иначе используют автоматизацию", - сообщила пресс-служба "МТС Линк".

Также респонденты назвали средством повышения эффективности HR-процессов использование соцсетей (38% опрошенных), причем в крупных компаниях (от 500 до 1000 человек) их пользу отметили 49% респондентов.

Пресс-служба "МТС Линк" сообщила, что почти половина опрошенных (49%) проводят в онлайне первое собеседование, а далее настаивают на очных встречах с кандидатами. Онлайн-формат наиболее актуален для крупнейших компаний: среди них 42% проводят онлайн-собеседования на всех этапах, и еще 51% - для первого знакомства с соискателем. 27% компаний готовы проводить собеседования в онлайне на всех этапах (интервью с HR-специалистом, с руководителем и выполнение тестового задания).

"Искусственный интеллект (ИИ) в процессе подбора и адаптации сотрудников используют лишь 5% компаний. Только 46% планируют внедрение инструментов на основе ИИ, остальные 49% таких планов пока не строят. Почти треть респондентов считают, что ИИ справляется с первичным скринингом и ранжированием резюме кандидатов, столько же людей доверило бы алгоритмам сортировки откликов на вакансии. Четверть опрошенных считают, что ИИ уже способен оценивать качество резюме, а 18% - что он может информировать участников рынка труда о компании", - сообщила пресс-служба "МТС Линк".

Директор по персоналу "МТС Линк" Илья Потапенко считает, что готовность российских HR-департаментов к автоматизации уже достаточно высока. "Однако на данный момент на рынке еще недостаточно зрелых инструментов. С их появлением уровень автоматизации будет расти", - отметил он.

Уровень цифровизации процесса рекрутинга, по данным SuperJob, показал, что рекрутеры 44% предприятий и организаций ведут подбор вручную, 56% компаний в той или иной степени автоматизировали процесс найма. В топ-5 наиболее популярных программ цифровизации рекрутинга входят "1С", "Битрикс24", E-Staff, "Хантфлоу" и Potok. "Крупный бизнес автоматизирует рекрутинг значительно чаще: в 82% компаний с численностью персонала от 1000 человек кадровый подбор автоматизирован. Большинство малых предприятий ведут подбор вручную: судя по комментариям, руководство компаний оценивает затраты на автоматизацию как слишком высокие", - сообщил представитель пресс-службы SuperJob.

HR-реалии

Главный специалист по работе с персоналом компании - разработчика и поставщика ПО "АСКОН" Дарья Сухова сообщила журналисту ComNews, что компания постепенно уходит от ручных процессов, переводя поиск и наем сотрудников в CRM, ведя процессы в облачном решении и не распечатывая резюме. "Прием сотрудников стараемся везде автоматизировать. Другие процессы пока поддаются сложнее. Стремимся работать в одном информационном поле, вести всю деятельность в единых корпоративных системах - Pilot-ICE собственной разработки, Bitrix", - сказала Дарья Сухова.

Руководитель департамента подбора и адаптации персонала ГК Softline Марина Лисица сообщила, что внутри компании большинство процессов автоматизированы, и уточнила, что это касается области подбора, обучения, оценки персонала и адаптационных мероприятий, то есть всего жизненного цикла сотрудника. "В прошлом году мы внедрили кадровый электронный документооборот (КЭДО), а для подбора персонала используем внутренние сервисы собственной разработки. Помимо этого, у нас есть платформа "ХантФлоу", которая автоматизирует и объединяет в себе все процессы подбора", - уточнила она.

Директор департамента подбора и управления талантами в ПАО "ВымпелКом" ("Билайн") Елена Мукомол сказала, что оператор очень активно проводит онлайн-собеседования. "Мы научились работать эффективно в онлайне задолго до того, как это стало вынужденной необходимостью, а именно - с 2016 г. Более того, мы в процессе перехода на решение TrueConf", - пояснила Елена Мукомол.

Представитель пресс-службы ПАО "МегаФон" сообщил журналисту ComNews, что в компании автоматизирован весь цикл подбора: от заведения заявки до трудоустройства - публикация вакансий, сбор откликов, взаимодействие с заказчиком и с кандидатом, чат и голосовые боты на отдельных этапах, автоуведомления, оценка кандидата, виртуальная АТС, сбор документов для трудоустройства, пребординг и оформление).

Директор департамента HRM-технологий и аналитики ПАО "Ростелеком" Никита Черкасенко сказал, что с существенной долей удаленной работы и полностью электронным документооборотом (ЭДО) оператор уже накопил историю с сотрудниками, которые проходили дистанционно не только собеседование, но и весь трек трудоустройства, включая подписание трудового договора и адаптацию. "Естественно, формат собеседования - выбор самого кандидата и нанимающего руководителя, но опция удаленного собеседования доступна и широко используется. Инструментов для дистанционного взаимодействия с кандидатами достаточно, и их выбор не так принципиален. Это и все популярные мессенджеры, и корпоративные платформы видеоконференций, и личный кабинет кандидата в нашей собственной системе управления подбором", - пояснил Никита Черкасенко.

Директор по подбору персонала цифровой платформы для организации командировок и управления расходами "Ракета" Ксения Коскова отметила, что HR-сфера активно развивается в направлении автоматизации и цифровизации. "На рынке существует большое количество HR-Tech-продуктов. Есть коробочные решения, например, "Битрикс", HRBOX, которые могут закрыть немалую часть потребностей клиентов. Есть точечные разработки, способные управлять отдельными HR-процессами, - к примеру, "СберПодбор", Talent Q", - сказала Ксения Коскова.

Руководитель проектного офиса ИТ-компании SimbirSoft Сергей Гордеев рассказал журналисту ComNews, что в штате компании работает более 1,5 тыс. сотрудников из более чем 80 городов России. Он отметил, что компания активно использует практику онлайн-собеседований, в том числе на должности руководителей проектов, и пояснил, что исключение составляют руководители отделов и направлений - с ними проводятся встречи в режиме офлайн. "Онлайн-интервью мы проводим с помощью нашего внутреннего сервиса либо других популярных ресурсов, таких как "Яндекс.Телемост", Skype*, Google Meet или Zoom* - в зависимости от того, что удобнее кандидату. Все этапы работы с соискателем фиксируются в HRM-системе. Поскольку вся информация собрана в одном месте, мы легко можем проследить историю взаимодействия с кандидатом", - пояснил Сергей Гордеев.

Директор по персоналу компании "Киберпротект" Елена Калацей рассказала, что важный период в ее организации - это ежегодная оценка персонала, или Performance review. Она уточнила, что еще три года назад этот процесс происходил в формате обмена заполненными Excel-таблицами, сведением всей информации в общий файл и анализом. "В прошлом году мы автоматизировали процесс оценки с помощью внешнего решения и проводили его в формате удобного онлайн-опроса через внутренний портал. Мы идем еще дальше, готовя с помощью экспертизы внутренней разработки собственное решение с более широким функционалом", - сказала Елена Калацей.

Директора по персоналу ITentika Елена Никишева сообщила журналисту ComNews, что работа в ИT-компании предполагает гибридный формат, поэтому практически все собеседования проходят только в онлайн-формате. "Для этого мы используем в основном "Яндекс.Телемост", так как он связан с нашим почтовым сервисом", - сказала Елена Никишева и добавила, что для ведения кандидатов есть внутренняя система. "У каждого сотрудника есть содержание проекта, где прописаны все задачи на испытательный срок. Кроме того, есть КЭДО, соответственно, мы принимаем сотрудников удаленно. Также для внутренних целей мы используем мессенджер Discord*, в котором сотрудник знакомится с компанией и добавляется во все необходимые группы для формального и неформального общения", - пояснила Елена Никишева.

ИИ в рекрутинге

Елена Никишева пояснила, что компания практически не использует в подборе и адаптации сотрудников ИИ. "Пока все процессы автоматизированы, но без использования ИИ", - сказала она.

Заместитель директора и соучредитель компании VINTEO Дмитрий Серый сообщил журналисту ComNews, что ИИ в процессе подбора и адаптации сотрудников не использует.

Директор по управлению персоналом и организационной поддержке компании "Триколор" Катерина Зоринец сказала, что оператор регулярно тестирует различные ИИ-инструменты в работе с персоналом и выбирает только те из них, которые способны эффективно решать HR-задачи. "Так, например, чтобы адаптировать текст вакансий под различные площадки и быть заметнее аналогичных предложений, мы используем ChatGPT, адаптируя результат к особенностям и специфике компании", - сказала Катерина Зоринец.

Операционный директор HR-холдинга Ventra Лусине Абгарян считает, что HR-отрасль находится в активной стадии цифровизации. "Автоматизация рекрутмента и КЭДО, по оценке аналитиков, являются самым быстрорастущим сегментом рынка HR Tech: это крайне актуально и для оптимизации бизнес-процессов, и для комфорта самих сотрудников", - сказала Лусине Абгарян.

Руководитель отдела подбора персонала IW Group Евгения Ласаева рассказала, что в процессе подбора сотрудников ИИ применяется выборочно: он помогает в написании текста вакансии, в создании скриптов для того или иного интервью, оставляя конечные правки за рекрутером.

Руководитель направления "Организация и персонал" "Рексофт Консалтинг" Маргарита Патрушева пояснила, что есть два типа кейсов с использованием ИИ: первый - это унификация вакансий и требований к сотрудникам, рассылка и координация запросов по привычным сайтам поиска работы (hh.ru, SuberJob, Avito и Trudvsem), а второй - это подбор массового персонала. "Здесь ИИ уже давно применяется, например в ретейле и телекоме: первичный скрининг и роботизированный обзвон кандидатов с записью разговора и генерацией ответов в ходе разговора. Далее ведение аналитики по воронке кандидатов", - отметила Маргарита Патрушева.

Никита Черкасенко отметил, что у "Ростелекома" есть рекомендательные сервисы на основе ИИ, которые помогают сотрудникам ориентироваться и формировать треки развития в корпоративном университете. "Есть отдельная нейросеть, которая обучена анализировать эссе абитуриентов на корпоративные образовательные программы и принимать решение о зачислении сотрудника. В подборе алгоритмы с использованием ИИ помогают анализировать источники кандидатов и корректировать воронку привлечения и отбора в сторону большей эффективности, а также уже шесть лет сервис на основе ИИ проводит exit-интервью, анализирует их результаты и обеспечивает нас структурированной обратной связью от бывших сотрудников, которая позволяет нам становиться лучше", - пояснил Никита Черкасенко.

Выход на новый уровень

Илья Потапенко считает, что цифровые инструменты и ИИ способны вывести HR-процессы на новый уровень - сделать их более гибкими, быстрыми и менее трудоемкими. Он отметил, что ИИ - это не неудачная замена квалифицированного HR-специалиста, которая сделает в работе много ошибок, а умный помощник, который берет на себя рутинные процессы и освобождает время на более сложные и творческие задачи.

Представитель пресс-службы SuperJob отметил, что интересно увидеть отношение HR-менеджеров к AI (англ. artificial intelligence - искусственный интеллект). "Рекрутеры не верят в возможность полностью передать подбор персонала ИИ, а вот часть функций на него готовы переложить 28% опрошенных. Например, первичный отбор резюме по параметрам (особенно в массовом найме), а также проведение вводных интервью и тестирование (как профессиональное, так и личностное), составление текстов вакансий", - пояснил представитель пресс-службы SuperJob.

Hh.ru на запрос журналиста ComNews не ответил.

* Discord, Skype и Zoom - запрещенные Роскомнадзором программы для банков, некредитных финансовых организаций и госкомпаний.

Развитие искусственного интеллекта требует все больше энергии: чем это грозит

Юлия Гуреева,Сергей Тихонов

Искусственный интеллект (ИИ) оказался не только инструментом, расширяющим возможности человека и упрощающим ему жизнь, но и весьма прожорливой с точки зрения потребления энергии системой. Более того, из-за этого он может нанести существенный вред экологии.

Риски реальны, достаточно вспомнить историю с развитием майнинга криптовалют в нашей стране, который также связан с сильным увеличением энергопотребления. В 2023 году из-за этого даже стали говорить о возможном локальном дефиците электроэнергии в некоторых регионах Сибири и Дальнего Востока. В результате был разработан повышающий коэффициент к тарифам на электричество, который применяется при достижении определенного объема потребления.

Но сравнивать напрямую майнинг и ИИ не совсем правильно. Цель майнинга - заработать, для чего приобретается оборудование. Чем мощнее, тем лучше. Под майнинг уже выпускается соответствующее компьютерное железо, одним из главных характеристик которого является энергоэффективность. Затраты на электричество - минус к прибыли майнеров.

Создатели чат-ботов, конечно, тоже хотят заработать, но они это делают, предоставляя услуги другим пользователям. И для этого им нужны совершенно разные инструменты, способные создать визуальные или звуковые образы, собрать информацию, распознать речь, сделать перевод на другой язык и прочее. Пока говорить об унификации оборудования нельзя. К тому же системы ИИ пока не многозадачны. Распознаватель речи не нарисует картину. Грубо говоря, для обработки этих запросов нужны два разных сервера.

Энергозатраты также влияют на прибыльность чат-ботов, но учитывать их намного сложнее, чем с майнингом. Оценки затратности ИИ очень разнятся. Но все показывают, что такие системы потребляют огромное количество энергии. Например, по данным The New Yorker со ссылкой на аналитика Национального банка Нидерландов Алекса де Фриса, чат-бот ChatGPT, ежедневно отвечая на 200 млн запросов, требует на это 500 тыс. кВт/ч энергии, что в 17 тыс. раз больше, чем тратит в день среднестатистическое домохозяйство в США (29 кВт/ч).

Вместе с энергозатратами на запросы к ИИ-моделям расход электричества приходится на процесс обучения. OpenAI потратила на эти цели для GPT-3 объем энергии, который мог бы снабдить 126 частных домов, рассказал профессор РАН, гендиректор Института AIRI и профессор Сколтеха Иван Оселедец.

В исследовании банка Morgan Stanley говорится, что индустрия ИИ будет с каждым годом потреблять на 70% больше энергии. К 2027 году показатель вырастет до 224 ТВт/ч, а, к примеру, энергопотребление всей Испании в 2022 году составило около 230 ТВт/ч.

А по оценкам Международного энергетического агентства (МЭА), к 2026 году энергопотребление центров обработки данных, используемых для обработки запросов ИИ, достигнет 1000 ТВт/ч. Это примерно эквивалентно общему потреблению Японии. По оценкам МЭА, в настоящее время во всем мире насчитывается от 9 до 11 тыс. облачных центров обработки данных. Как отмечает директор по стратегии ИК "Финам" Ярослав Кабаков, ожидается, что уже к 2025 году ИИ потребит больше энергии, чем вся человеческая рабочая сила, занимая 3,5% мирового энергопотребления.

В России ситуация с энергопотреблением ИИ-систем может быть менее острой по сравнению с США, тенденция к увеличению энергопотребления будет актуальна по мере развития и масштабирования технологий, считает Кабаков. В России, например, развиваются комплексы ИИ для мониторинга дорожного движения и системы интеллектуального видеонаблюдения, такие как те, что используются в проекте "Безопасный город".

А в Евросоюзе с 2025 года системы искусственного интеллекта высокого риска, которые включают в себя мощные базовые модели, такие как ChatGPT, будут обязаны раскрывать свое энергопотребление и потребление других ресурсов на протяжении всего их жизненного цикла. Оговорка про потребление других ресурсов не случайна. По словам Кабакова, выявлен значительный "водный след" ИИ, на примере обучения модели GPT-3, с энергопотреблением, равным энергозатратам на 550 полетов между Сан-Франциско и Нью-Йорком.

Вода используется для охлаждения оборудования, и ее потребление также с каждым годом растет. В отчете Microsoft за 2022 год говорится, что в связи с популяризацией ИИ-технологий потребление воды в дата-центрах компании выросло на 34% по сравнению с 2021 годом, до 6,4 млн кубометров. Это равно объему 2500 олимпийских бассейнов.

С точки зрения доктора технических наук и технического директора Smart Engines Дмитрия Николаева, не все так мрачно. В ближайшей перспективе негативных последствий от роста энергопотребления ИИ можно не ждать, считает он. В будущем они могут возникнуть только в том случае, если технологии будут масштабироваться, однако получить широкое распространение они вряд ли смогут, полагает он.

В среднесрочной перспективе расхождение между ожиданиями и реальностью может привести к очередной "зиме ИИ" (снижение инвестиций в отрасль), поскольку рано или поздно разочарование накопится. Нынешняя волна моды на ИИ - отнюдь не первая. Ей предшествовала как раз "зима", когда на ИИ никто денег не давал, поскольку предыдущая попытка решить все проблемы человечества с помощью ИИ обернулась полным провалом, отмечает эксперт.

Хотя есть еще ведь углеродный след от работы серверов и энергии. По словам Кабакова, проблема углеродного следа ИИ особенно актуальна для систем, требующих значительных вычислительных мощностей, как, например, системы глубокого обучения для автономных автомобилей, которые разрабатывают в Tesla и Waymo. Эти системы требуют использования мощных серверов, работающих круглосуточно.

Но, как отмечает профессор РАН, гендиректор Института AIRI и профессор Сколтеха Иван Оселедец, сейчас разработчики используют специальное программное обеспечение и открытые библиотеки, которые снижают вычислительные мощности и размеры необходимой памяти, а также применяют сжатие для подбора наиболее оптимальных алгоритмов обучения и сокращения параметров нейросети. Это помогает обучать модели на меньшем количестве мощностей.

А по мнению директора группы по оказанию услуг в области устойчивого развития компании ДРТ Тимура Турсунова, проблемой углеродного следа ИИ не нужно заниматься в приоритетном порядке или в отрыве от других целей и задач климатической и экологической повестки. В отличие от цикличного и непостоянного интереса, например к майнингу криптовалют, технологии ИИ через несколько лет (или месяцев) станут таким же спутником современного человека, как интернет. Конечно, углеродный след, непосредственно связанный с ИИ, требует внимания экспертов и общественности, но прежде всего нужно определиться, кто будет нести первичную ответственность за выбросы парниковых газов от ИИ - стартапы и компании-гиганты, создающие ИИ-системы и платформы, операторы центров обработки данных (ЦОД) или пользователи ИИ-платформ. Пользователи ИИ, например, компании, внедряющие ИИ в свои процессы и продукты, могут быть двигателем декарбонизации отрасли, выбирая "зеленые" ЦОДы, которые используют возобновляемые источники энергии, поясняет эксперт.

Как отмечает Николаев, для функционирования человеческих мозгов, которые создали всю цивилизацию, включая ИИ, не требуется столько энергии, сколько на обсуждаемые сейчас технологии будущего. Наши технологии подозрительно сильно стали отставать от природных. Это тупик, но выйти из него в наших же силах, считает эксперт.

Как использовать нейросети на рынке труда

Станислав Мамулат (ведущий специалист кафедры мировой экономики РЭУ имени Г. Плеханова, член правления Международного транспортного альянса "Один пояс - один путь".)

Чем сильнее впечатляют результаты пилотного внедрения систем искусственного интеллекта (ИИ) в корпоративный сектор, чем шире взаимодействие специалистов с генеративным ИИ, тем острее вопросы безопасного применения ИИ и нейросетей в различных видах деятельности. В частности, в подборе и обучении персонала. Необходимо тщательно изучить риски и негативные последствия, сопутствующие развитию технологии, сильного искусственного интеллекта на пересечении естественно-научной, технической и социально-гуманитарной сфер.

По данным электронной торговой площадки "Росэлторг", общее количество закупок государственными и муниципальными учреждениями, где упоминались решения, связанные с ИИ, машинным обучением, нейронными сетями, большими языковыми моделями и тому подобным, выросло с 2022 года почти вшестеро. А количество таких закупок компаниями с госучастием - в четыре раза.

Тем временем, по оценкам Международной консалтинговой компании McKinsey, при нынешних темпах роста глобальные затраты на борьбу с киберпреступностью к 2025 году достигнут примерно 10,5 триллиона долларов, что на 300 процентов больше показателя 2015-го.

Очевидна необходимость не просто учета и минимизации подобных рисков, а разработки и регулировки принципов развития ИИ в гуманитарных и управленческих сферах для обеспечения более продуктивного взаимодействия с человеком. Ведь ошибки при решении специфических когнитивных задач возможны как со стороны человека, так и со стороны искусственного интеллекта.

Эксперт по кадрам в банковской сфере Владлен Лисовик проанализировал обоснованность заключений сотрудников служб по работе с персоналом одного из крупнейших банков страны о том, насколько качества кандидатов соответствуют требованиям к конкретным вакансиям. Результаты показали явную необходимость введения инструментов дополнительной поддержки принятия подобных решений, так как зачастую выводы людей основываются на факторах, которые мало соответствуют специфике должностных задач или носят труднообъяснимый характер (например, "он какой-то несуразный" или "у него вид какой-то болезненный").

Встречный пример опыта использования ChatGPT для обобщения выводов на заданном массиве текстовых данных привела консультант сектора поведенческой экспертизы нормативных актов Банка России Анна Уланова. Ее анализ показал, наоборот, необходимость тщательной проверки обоснованности выводов ИИ, который довольно креативно и убедительно по форме выдавал за нечто само собой разумеющееся утверждения, абсолютно не подтверждаемые фактами.

Гармонизация и повышение продуктивности взаимодействия с машинными системами потребует налаживания механизмов взаимной проверки и объяснения "запросов и умозаключений" и со стороны человека, и со стороны системы ИИ. При этом приоритет в выборе и утверждении "совместно выработанного решения" должен оставаться за человеком, так как только он в данном случае обладает правосубъектностью. Вместе с тем и предоставление разного рода вспомогательных/сервисных функций со стороны ИИ должно сопровождаться пояснениями и отчетами о перепроверках и обоснованиях выводов - подобно тому, как это принято в экспертной деятельности человека.

В большинстве стран уже обсуждаются или приняты разнообразные нормативные акты о "контроле неточностей и вопросов кибербезопасности", связанных с внедрением ИИ. Активно развивается новое направление - так называемый объяснительный искусственный интеллект (XAI). Он является движущей силой изменения всего ландшафта ИИ и открывает эру систем, которые "могут объяснять свои решения людям".

Однако в связи со стремительным глобальным внедрением ИИ новых поколений в технологических компаниях и в отраслях, основанных на знаниях (банковское дело, фармацевтика, медицинские изделия и образование), разработка корпоративных и ведомственных политик требует значительной активизации, консультационного и научно-методического сопровождения. Сегодня же опросы говорят о наличии работающих целенаправленных программ и политик в сфере искусственного интеллекта примерно у трети опрошенных корпораций.

В перспективе именно системы гибридного и объяснительного интеллекта будут усиливать связку "человек - компьютер - сеть" при решении таких задач, как анализ недостающих компетенций у персонала организаций в целом и у конкретных работников; построение прогноза оптимальной профессиональной траектории абитуриента, студента или специалиста; оценка перспектив и последствий внедрения отдельных технологий и решения важнейших научно-технологических проблем. В принципе это актуально для массы задач, требующих сложноструктурированного контент-анализа и экспертных оценок на больших объемах текстовых слабоструктурированных данных.

Обсуждение этих вопросов продолжится 21 марта в рамках VI Международного научного форума "Шаг в будущее: искусственный интеллект и цифровая экономика" в РЭУ имени Г. Плеханова.

Четверть профессий изменится в ближайшее время под влиянием ИИ

Ирина Жандарова

Четверть профессий изменится в ближайшее время под влиянием искусственного интеллекта (ИИ). Для многих умение пользоваться технологиями на основе ИИ станет обязательным навыком при приеме на работу. Эти изменения уже затронули многие специальности. А те, кто уже применяет ИИ, не только оценили преимущества технологий, но и столкнулись с их недостатками.

"Навык использования ИИ-технологий становится все более значимым в самых разных профессиях и сферах деятельности", - говорит Александр Кобозев, директор направления Data Fusion Лиги Цифровой Экономики. В ближайшие пять лет почти четверть профессий может измениться, считает Вероника Еликова, директор департамента по управлению талантами Группы "Иннотех". Это будет связано в том числе с дальнейшим проникновением технологии в повседневную жизнь.

Внедрение ИИ в профессиональную жизнь многих сотрудников поддержано на государственном уровне. Поручение проанализировать потребности работодателей в сотрудниках, обладающих новыми навыками и компетенциями, и по итогам этого анализа внести изменения в профессиональные стандарты и в государственные образовательные стандарты дал президент РФ 17 февраля. К 2030 году планируется, что до 80% сотрудников российских компаний будут владеть навыками использования технологий ИИ.

Сейчас эти технологии внедряются в те сферы, которые традиционно были консервативны в плане технологических изменений, отмечает Александр Кобозев. Это стало актуально для сферы образования, где искусственный интеллект помогает персонализировать обучение и создавать образовательный контент, поясняет он. Благодаря ИИ меняется работа маркетологов. Для них стали доступны новые инструменты, такие как персонализированные рекомендации. Эффективный и невиданный прежде инструментарий получили представители креативных и творческих профессий: дизайнеры, искусствоведы, писатели, художники, перечисляет Александр Кобозев. "Во многих странах ИИ включен в клинические стандарты для диагностических и лечебных манипуляций", - отмечает Игорь Азнаурян, профессор, научный руководитель платформы "Онлайн Око". В некоторых российских клиниках искусственный интеллект используется в диагностике рентгенографических снимков. Около 95% из них показывает отсутствие патологий. "Когда врач постоянно работает с нормой, он может пропустить снимок с патологией", - пояснил эксперт.

Сотрудники, которые раньше не работали с ИИ, вынуждены осваивать новые для себя навыки. "Не случайно многие компании покупают для своих сотрудников курсы по ChatGPT, написанию промтов", - говорит Ольга Дудниченко, директор по коммуникациям платформы корпоративного благополучия "Понимаю". В ближайшее время умение пользоваться технологиями на основе ИИ станет одним из обязательных навыков при приеме на работу, считает она.

При этом на российском рынке труда пока нет конфликта интересов - роботы не отбирают работу у людей. Технологии ИИ внедряются именно в те сферы, в которых присутствует максимальный дефицит кадров. Среди них, к примеру, логистика, которая входит в топ-5 по нехватке персонала. Стремительное развитие интернет-торговли также привело к взрывному спросу на сотрудников.

Большое количество сборщиков, сортировщиков и упаковщиков обрабатывают заказы. Роботизация и внедрение ИИ на складах позволяет не бегать в поисках нужных товаров. Их поиском и доставкой сборщику занимаются роботы, оснащенные ИИ.

В промышленности потребность в кадрах составит 870 тыс. человек, сообщил ранее замминистра промышленности и торговли РФ Алексей Беспрозванных. Здесь ИИ используется для автоматизации производственных процессов, контроля качества. И, конечно, за счет этого сокращает нехватку рабочих. Более 200 тысяч человек не хватает сельскому хозяйству. Здесь ИИ ведет мониторинг выращивания растений, управляет беспилотной техникой.

В интеллектуальных профессиях технологии ИИ, пожалуй, больше других освоили рекрутеры. До 40% кадровых агентств пробовали или применяют ИИ. Применение GPT повышает эффективность на всех этапах рекрутмента - от подготовки описаний вакансий до поддержки принятия решения о найме, говорит Максим Никифоров, эксперт по управлению проектами и развитию продуктов, цифровизации и построению бизнес-процессов TOPPERFORMER. Однако внедрение ИИ в этой сфере Владислав Быханов, управляющий партнер CORNERSTONE, назвал битвой брони и пули. Компании ленятся писать вакансии сами, отдают эти функции нейросети. А на атаки кандидатов устанавливают голосовых помощников, в итоге не получают результата. Многие рекрутеры пробовали использовать инструменты нейросети, и только малая часть из них продолжает регулярно делать это.

Правовой статус ИИ на данный момент в России не определен, отмечает Владислав Быханов. "Он не может быть субъектом процесса рекрутмента, нести ответственность", - говорит он. И этот вопрос беспокоит все большее число пользователей ИИ. К примеру, врач, который проводил операцию с использованием оборудования, оснащенного ИИ, не может возложить ответственность на его разработчиков. Пока окончательное решение принимает человек, он и несет ответственность. Но уже к 2075 году мыслительные процессы роботов и людей нельзя будет отличить, считают эксперты ВШЭ и рекомендуют принять меры, которые будут реакцией на вред, причиненный ИИ.

Эта работа уже ведется. В декабре на заседании комиссии правительства по законопроектной деятельности был одобрен закон "Об экспериментальных правовых режимах в сфере цифровых инноваций", разработанный минэкономразвития. Для урегулирования ситуаций, когда действия ИИ причинили вред, будет создана специальная комиссия с участием регуляторов. Воспользоваться этим механизмом смогут участники экспериментальных правовых режимов (ЭПР) в сфере цифровых инноваций (так называемых цифровых песочниц), которые будут страховать ответственность за негативные последствия применения ИИ.

Очевидно, что предложенные меры не закрывают все правовые аспекты использования ИИ. С каждым годом конфликтных ситуаций будет все больше. Причем они будут разного спектра: от аварий с участием беспилотного транспорта до нарушений авторских прав GPT ботами.

Актеры индустрии видеоигр в США могут устроить забастовку в знак протеста против растущего использования технологий искусственного интеллекта (ИИ) при разработке игровых продуктов. Как рассказал журналистам представитель актерского профсоюза (SAG-AFTRA) Дункан Крэбтри-Айрлэнд, переговоры с создателями игр на этот счет зашли в тупик, поэтому возросла вероятность забастовки актеров в ближайшие 4-6 недель. Если дойдет до стачки, то это может притормозить многие крупные проекты таких гигантов индустрии видеоигр, как Activision, EA, Insomniac Games, Warner Bros. Games.

Члены профсоюза подавляющим большинством проголосовали за проведение забастовки еще в сентябре прошлого года, когда крупнейшие за десятилетия стачки устраивали в Голливуде их коллеги по киноиндустрии (актеры, продюсеры, сценаристы). В обоих случаях одной из ключевых проблем стало растущее использование генеративных нейросетей, в том числе обученных на творчестве, голосах или образах реальных актеров, продюсеров и сценаристов. Это грозило лишить представителей творческих профессий значительной части заработков.

Однако тогда руководство SAG-AFTRA решило не начинать стачку и попыталось договориться с разработчиками видеоигр об условиях труда актеров с тем, чтобы решить проблему их незащищенности от ИИ-технологий. В профсоюзе настаивают, что внедрение нейросетей должно вестись "для увеличения производства и быть человекоцентричным, а не вести к замене человека". В частности, обучение генеративных нейросетей по голосу, внешнему виду или иным результатам работы актеров предлагается разрешить только с их согласия и при условии выплаты им денежной компенсации. Несколько небольших компаний уже заключили соглашения такого рода с SAG-AFTRA. Например, представители профсоюза подписали договор со студией Replica, которая специализируется на использовании ИИ для озвучки видеоигр. Соглашение предусматривает лицензированное использование цифровых копий голосов актеров. Однако, как утверждают в SAG-AFTRA, крупные разработчики видеоигр пока не хотят на это соглашаться.

В прошлом году гильдии актеров и сценаристов Голливуда провели многомесячные забастовки, добиваясь новых условий работы от киностудий, что привело к заморозке многих проектов и многомиллиардным убыткам. Однако в конечном итоге были согласованы новые контракты, которые наложили ограничения на использование ИИ-технологий на американской "фабрике грез". Общий смысл нововведений в том, что киностудии не должны получать экономической выгоды от замены людей нейросетями.

Это касается, например, написания сценариев или обработки видео и звука с использованием цифровых копий реальных актеров. По новым контрактам каждое такое использование теперь подразумевает запрос на согласие автора или актера, а также гонорары для них.

А для борьбы с дипфейками в SAG-AFTRA призывают Конгресс США принять закон, который дал бы людям право контролировать цифровое использование их имени и облика.

Подготовил Игорь Дунаевский

CorpSoft24 разрабатывает сервис для расшифровки совещаний с помощью нейросети

Компания CorpSoft24 приступила к разработке облачного сервиса для транскрибации записей совещаний. Пока сервис тестируется внутри компании, а нейросеть проходит этап обучения: по его завершению сервис станет доступен клиентам в защищенном облаке CorpSoft24.

Сервисы на базе нейросетей стремительно развиваются: в бизнесе, например, они уже активно используются в маркетинге и рекламе. Однако большинство массовых нейросетей наподобие ChatGPT и ее российских аналогов работают на базе публичных сервисов, что зачастую не соответствует требованиям бизнеса к безопасности и защите данных.

Отличие сервиса для транскрибации записей совещаний, над которым работают разработчики CorpSoft24, заключается в том, что он будет расположен на базе защищенных облачных серверов компании и при этом будет полностью российским.

"Идея создания сервиса родилась из наших внутренних потребностей: нередко возникали ситуации, когда было нужно пересмотреть запись совещания или переговоров с клиентами и найти в ней важный момент. Однако тратить часы времени на прослушивание записей совещаний просто неэффективно, поэтому мы и решили поручить эту задачу нейросети", - пояснил директор по развитию CorpSoft24 Иван Болгар.

Сервис уже готов и проходит внутреннее тестирование в CorpSoft24, обучение нейросети займет несколько месяцев. Транскрибация записей на первом этапе будет проводиться сплошным текстом, без разбивки на роли.

В будущем компания добавит дополнительные функции: разбиение на роли, возможность перейти из транскрипции сразу в нужный фрагмент видеозаписи, специальные словари, которые позволят точнее распознавать звучащую на деловых переговорах речь, и много другое. Кроме того, по мере развития сервиса можно будет получить краткое резюме встречи.

В CorpSoft24 полагают, что облачный сервис транскрибации записей совещаний будет полезен в работе коммерческих служб, служб клиентского сервиса и отделов продаж, а также внутренних служб безопасности, которые ведут контроль за деятельностью сотрудников. Расположение сервиса в российском облаке сделает сервис доступным для большого числа компаний с повышенными требованиями к безопасности информационной инфраструктуры.

Нейросети выходят на потребление энергии Швецией и Ирландией

Аркадий Симонов

Искусственный интеллект - уже настоящий герой нашего времени. Он стремительно входит в жизнь, завоевывая все новые сферы деятельности, а из некоторых уже вытесняет человека. Как все кардинально новое, он вызывает и восторги, и страхи. Оптимистам, которые видят в ИИ наше все, оппоненты предлагают посмотреть на эту технологию более реалистично. Например, бурные споры вызвало опубликованное в журнале Joule исследование голландца Алекса де Вриса. Он показал, что системы искусственного интеллекта, особенно большие языковые модели, потребляют колоссальное количество энергии. Только один запрос требует 2,9 Вт-ч. энергии. Автор утверждает, что при таких темпах развития нейросетей к 2027 году их энергопотребление выйдет на уровень таких стран, как Нидерланды, Аргентина, Швеция и Ирландия.

Неоднократно об энергетическом аспекте систем типа ChatGPT высказывался президент НИЦ "Курчатовский институт" Михаил Ковальчук. Он утверждает, что они увеличивают темпы роста энергопотребления, обостряя проблему мирового энергокризиса. Ученый подчеркивает, что, несмотря на увеличение за последние 80 лет в три миллиона раз мировую электрогенерацию, государства находятся в кризисе, так как потребление энергии растет быстрее ее производства.

В этом с ним согласен известный эксперт, член президиума Совета по внешней и оборонной политике Александр Лосев. Кроме того, он подчеркнул, что безвредность цифровых технологий для окружающей среды - это иллюзия. В частности, он приводит такие цифры. Уже сейчас цифровые технологии потребляют 12% всей вырабатываемой в мире энергии, на них приходится уже 3% выбросов СО2 в атмосферу, в то время как мировая авиационная отрасль ответственна только за 2% выбросов. А ведь общественность уверена, что в глобальном потеплении виноваты почти все отрасли, но только не нейросети и не "цифра". Что они вне подозрения. Но похоже, что это не так.

А ведь помимо электричества, много воды требуется для охлаждения серверов. Например, корпорация Google за 2022 год потратила на это астрономические 21 миллиард литров, что на 20% больше, чем годом ранее.

Так, может, притормозить стремительное наступление ИИ? Оптимисты уверены, что подобные мнения - это нормальное явление. Опасения по поводу роста потребления энергии сопровождают развитие любой новой технологии. На ранних этапах они неэффективны, однако по мере их масштабирования обязательно появляются улучшения. Также будет и с нейросетями. Нет сомнений, что будут найдены креативные решения, которые значительно сократят потребление энергии, а значит, развеют панику вокруг ее чрезмерного расхода. Словом, энтузиасты "цифры" и нейросетей полны оптимизма.

Игорь Пивоваров, главный аналитик Центра искусственного интеллекта МФТИ

Игорь, есть оценки, на что нейросети расходуют энергию?

Игорь Пивоваров: Около 20 процентов идет на их обучение, 80 процентов - на использование, когда они "выходят в люди". Скажем, чат ChatGPT обучался на 10 тысячах серверов в течение полугода, а когда стал решать задачи, то их число выросло до 30 тысяч. Отсюда и резкий рост потребления.

Многие специалисты смотрят на энергетические аппетиты нейросетей довольно спокойно. Считается, что их польза существенно перекрывает проблемы большого расхода энергии.

Игорь Пивоваров: Все зависит от ситуации в данный момент времени. Когда я был активным программистом, то мы работали так, чтобы вписаться в имеющиеся ресурсы, в том числе и по вычислительной мощности компьютеров. Они были ограничены, и мы знали, что новых нам никто не даст. Поэтому изощрялись в программах, искали варианты эффективной работы.

Сейчас парадигма в корне поменялась. "Железо" сильно подешевело, и вполне естественно, что программисты "обленились". Они уже не обращают внимания, сколько памяти нужно для решения задачи. Если не хватает, добавим еще процессоров. Тоже сейчас и с нейронными сетями. Они стали гигантскими, потому что, если переписывать код, сделать их оптимальными, это потеря времени. А конкуренция огромная, простой тебя отбросит назад. Надо прийти первыми. Словом, переписывать программы дольше и дороже, чем просто нарастить процессоры. Что, конечно, ведет к дополнительному расходу энергии.

Так сегодня движется прогресс: безумная конкуренция диктует правила игры. Но время все расставит по своим местам. Когда проблема энергии в нейросетях станет критической, найдут способы ее экономить.

Россия. ЦФО > Образование, наука. СМИ, ИТ. Электроэнергетика > rg.ru, 28 февраля 2024 > № 4592324 Игорь Пивоваров

Новая модель ИИ улучшает качество звука на основе человеческого восприятия

Юлия Гуреева

Хотя процесс обучения нейросетей и стал более автоматизированным, участие реальных людей в нем продолжает играть главную роль. Так, появилась новая модель искусственного интеллекта (ИИ), которая научилась улучшать качество звука, основываясь на человеческом восприятии.

Систему разработали американские инженеры из университетов штатов Огайо и Индиана. Создавая ее, они обратились не к техническим параметрам аудиофайлов, а к субъективному человеческому восприятию чистоты услышанного. Участники эксперимента оценивали записи разговоров людей по шкале от 1 до 100. В некоторых из них были, например, шумы или музыка, заглушающие беседы. После этого нейросеть с языковым модулем улучшения речи училась прогнозировать среднюю оценку аудио с точки зрения живых слушателей, говорится на сайте научного журнала IEEE.

Исследование показало, что новая модель превосходит стандартные подходы к очистке аудиодорожек от шума, где прогнозируемые ИИ показатели качества сильно коррелируют с оценкой людей.

"Это исследование отличается от других тем, что мы пытаемся использовать восприятие, чтобы научить модель удалять нежелательные звуки", - пояснил соавтор проекта Дональд Уильямсон.

По словам исследователей, улучшение качества звука "имеет решающее значение", в частности, для создания более эффективных программ распознавания речи, слуховых аппаратов или систем громкой связи.

Обучение нейросети происходит почти так же, как у людей: она получает набор данных и тренируется на них, а реальный человек может "подсказывать", правильно ли система отвечает на тот или иной запрос. Однако для того, чтобы стать "учителем" ИИ, необязательно быть специалистом в этой области: например, некоторые нейросети, предоставив ответ, могут поинтересоваться, "хороший" ли был ответ или "плохой", объясняет стратегический директор по IT, продуктам и сервисам PRO32 Руслан Сулейманов.

"Также обычный пользователь может вносить свой вклад в обучение нейросети, даже не подозревая об этом. Например, каждый день в ChatGPT поступает огромный поток данных от простых пользователей сервиса, которые совершали личные запросы", - добавил он.

Кроме того, существуют открытые проекты, у разработчиков которых нет ресурсов для сбора больших наборов данных, поэтому они приглашают обычных пользователей помочь со сбором информации, рассказала исследователь в области обработки речи компании "Криптонит" Анна Холькина. Есть и совсем распространенные примеры: когда пользователь выбирает картинки, на которых есть автобус или велосипед - он тоже участвует в обучении нейросети.

Вместе с тем не каждый захочет, чтобы он сам или его данные помогали ИИ учиться, поскольку делается это не всегда в благих целях. Полностью избежать этого не получится, уверен руководитель направления по анализу безопасности компании "Криптонит" Борис Степанов: даже если человек переедет в глухую тайгу, сведения о его месте жительства, истории болезни или налогах все равно уже остались в Сети.

"Защита данных от ИИ-систем сводится к тому, чтобы контролировать, какие данные мы публикуем, осознавать последствия своих действий и понимать, что вся информация, загруженная нами в интернет, навсегда останется там", -подчеркнул эксперт.

Помимо этого сама нейросеть может выдать третьим лицам информацию о пользователе, которую он предоставил ей. К примеру, в ChatGPT была обнаружена уязвимость, из-за которой чат-бот выдал имя, фамилию и номер телефона какого-то человека. "Важно не предоставлять нейросетевым сервисам данные о месте и дате рождения, адрес проживания, электронные адреса, номера телефонов, банковские реквизиты. Мой совет - каждый запрос в системе приравнивать к размещению этой информации в соцсетях",- сказал Сулейманов.

Разработчики ИИ, занимающиеся сбором информации из открытых источников, проверяют лицензии, под которыми предоставляются сведения. А еще они стараются анонимизировать и удалять критические сведения.

"Поэтому при предоставлении данных в открытый доступ необходимо проверять, кто сможет ими воспользоваться", - подчеркнула научный сотрудник группы FusionBrain Института AIRI Елизавета Гончарова.

В Италии хотят использовать искусственный интеллект в законотворчестве

Нива Миракян (Рим)

Итальянские парламентарии задались амбициозной целью стать первопроходцами в использовании искусственного интеллекта на законотворческом поприще. Об этом объявили прессе представители "Комитета по надзору за документационной деятельностью". Эксперты пришли к выводу о целесообразности такого шага по итогам почти годичного исследования, в рамках которого они также посетили штаб-квартиры Google, Meta (признана в России экстремистской организацией), Microsoft и OpenAI, которая создала нейросеть ChatGPT.

"Мы готовы как можно скорее прибегнуть к ИИ и имеем все шансы стать пионерами среди законодательных собраний по всему миру", - с нескрываемой гордостью заявила президент комитета и по совместительству вице-спикер нижней палаты итальянского парламента Анна Аскани, пояснив, что на сегодня подобное желание высказал только конгресс США.

Аскани заверила, что нейросети не заменят сотрудников парламента и не приведут к сокращению штата. По ее словам, ИИ будет на подхвате у профессионалов своего дела и будет выполнять лишь вспомогательную функцию. В частности, в настоящий момент изучается возможность применения нейросетей для сбора и анализа официальных парламентских документов. Отмечается, что ИИ уже начал медленно, но верно просачиваться в итальянский парламент. На данном этапе новейшие технологии используются для составления отчетов, голосового распознавания и переводов с иностранных языков.

Архитектура и дизайн: что возьмем в будущее?

В начале года все стремятся заглянуть в будущее, узнать, как будет развиваться, например, архитектура, как будут выглядеть города и прочее. Своим видением и прогнозами со «Стройгазетой» поделились дизайнер, глава «Студии Luxury дизайна» Елена Крылова и архитектор, руководитель компании ARD-studio Маргарита Шаткова.

– С какими вызовами сталкивается современная архитектура?

– Архитектура отражает мировые процессы и тренды, причем глобальный из них – мы все живем в эпоху перемен. Турбулентность уже успел прочувствовать на себе весь мир. Другими вызовами можно считать быстро растущее население, это больше относится к Африке и Азии, деколонизацию и почти непрерывные миграционные потоки. Кроме того, перед всем миром уже не первый год стоит задача сбережения ресурсов, переработки материалов и, в целом, бережного отношения к экологии. В ответ, архитектура, как и дизайн или мода, формируют актуальные тренды, которые преломляются по-разному. Самый заметный и долгоиграющий – экологическая повестка. Не менее значимы инновационные технологии, которые внесли революционные изменения в архитектурную практику. Это, прежде всего, информационное моделирование зданий (BIM) и 3D-печать, роботизированное строительство и умный дизайн с использованием ИИ.

Очень востребована устойчивая архитектура, суть тренда – повышение эффективности использования материалов, энергии, пространства для застройки и экосистемы в целом. При проектировании и застройке внедряются технологии passivhaus, используются возобновляемые материалы и энергии, а также применяются зеленые технологии. Яркими примерами реализованных трендов являются жилой комплекс The Silo в Копенгагене, и комплекс Valley в Амстердаме. Первый – футуристичный дом, перестроенный из массивного зернового элеватора, проект датского бюро COBE. На крыше здания действует ресторан с панорамными видами, а на первом этаже event-площадка. Сквозь бетонную поверхность элеватора на улицу выходят высокие панорамные окна с балконами, обшитые снаружи фасетными панелями из оцинкованной стали. Они не только в корне меняют облик здания, но и утепляют фасад, и экономят затраты на обогрев. Проект Valley авторства бюро MVRDV объединяет 200 квартир, офисы, магазины, общепит, культурные точки. Он имеет особенность: у трех башен (высотой 67, 81 и 100 м) на уровне четвертого и пятого этажа спланирована круглогодичная зеленая рекреация. Комплекс оснащен умной системой управления сенсорного типа, которая согласует потребление энергии с реальными пользовательскими запросами. По сравнению с традиционными она эффективнее более чем на 30%.

– Сегодня нередко говорят, что раньше архитектура была интереснее, эстетичнее. Зачастую в современных сооружениях отсутствует вертикаль, как центр объединяющий композицию…

– Это не так, потому что в таком случае мы отрицаем любой прогресс, который достигнут за эти годы. Хотя доля истины в этом есть. Очень часто в разработке архитектурного проекта превалирует геометрия, а теплота человеческого таланта уходит на второй, если не на третий план. Под геометрией я имею в виду параметрическое моделирование и ChatGPT. Строгость линий и абсолютная симметрия, конечно, манящий идеал. Но любое здание должно составлять композицию с окружающей средой и опираться на природные линии. Именно при этих условиях объект становится гармоничным и одухотворенным. Это законы, по которым живет настоящая архитектура. И в контексте современной жизни творить по ним можно. Доказательством будет 118- этажный небоскреб Merdeka в Куала-Лумпуре, спроектированный австралийской фирмой Fender Katsalidis. Это второе по высоте здание в мире, уступающее только башне Бурдж-Халифа. Небоскреб увенчан шпилем и примечателен треугольным граненым фасадом, созданным с опорой на образцы традиционного малазийского искусства. Здесь расположены офисы, отели и объекты торговли, а также обсерватория и две смотровые площадки, самые высокие на сегодня в Юго-Восточной Азии. Также признаками хорошей архитектуры является культурная общность поколений, которая в проекте видна невооруженным глазом. Ведь архитектор, в некотором роде, хранитель смысла, памяти и наследия.

В чем связь современных архитекторов и сегодняшней эстетики с мастерами прошлого, с традициями, с наследием? В объединении передовых технологий с историческими штрихами, с элементами культурного кода региона или страны. В результате переосмысления этих ценностей создается что-то уникальное и при этом адекватное времени. Эту мысль легко проиллюстрирует Смитсоновский Национальный музей афроамериканской истории и культуры - работа архитектора Дэвида Аджайе. В дизайне явно использованы национальные мотивы африканского племени йоруба: очертания здания напоминают перевернутый зиккурат, а фасад украшен ажурными алюминиевыми панелями темно-бронзового цвета, узоры стилизованы под ручную ковку. Связь традиционного прошлого и современности налицо.

– Венецианское биеннале самый значимый форум в мире архитектуры. Какие темы были заявлены на 2024 год, какие проекты устремлены в будущее?

– Биеннале, действительно, высвечивает спектр проблем, намечает пути решения, формирует послание всему мировому архитектурному сообществу о том, что архитектура – это общемировая история и планета у нас одна. Идеи обустройства городов могут совпадать и в Европе, и в Азии, и в Африке. Например, Япония в рамках экспозиции своего павильона призвала гостей биеннале и просто землян удивляться архитектуре и общим физическим пространствам. Представители страны вообще считают, что искусство музыки в камне – это то, что нужно любить. Как место, как высокое мастерство и даже как живое существо. И вот как на этот призыв ответили мастера из Франции. На севере Парижа после реконструкции недавно открылся проект Halles Pouchard, авторы Патрик Берже и Жак Анзиутти. Бывшая промзона была преобразована в инновационное общественное пространство. Здесь на площади 100 тыс. кв. метров разместились отель, театр, художественные галереи и рестораны.

Германия на биеннале сосредоточилась на использованных материалах, точнее их переработке. В своем павильоне немцы разбирали строительный мусор, сортировали и пускали его в дело. Словно бы говоря этим, что сегодня строить можно из переработанного пластика, тетрапака или конопляных панелей, а также из мицелия грибов. Будущее, похоже, наступило. Ассортимент строительных материалов расширился настолько, что в это трудно поверить, а сами дома могут создаваться и без участия человека, с помощью гигантских 3D-принтеров.

– Сегодняшняя цивилизация – это цивилизация городов. Как будут эволюционировать города с точки зрения архитектуры?

– Результат градостроительной деятельности – это создание городской среды. При этом на ее формирование всегда влияют технологии, в том числе транспортные, социальная культура и потребности города. В целом формированием комфортной среды для жителей занимается урбанистика, органичной частью которой и является архитектура. Сегодня урбанистический подход распространяется и на пригороды. Не надо быть пророком, чтобы предсказать основную парадигму развития больших и даже малых поселений: устойчивая архитектура в отношении ресурсов, энергии и пространства. Как следствие, создание эффективной инфраструктуры и эко-дизайн. Это также означает интеграцию зеленых зон и водных объектов в городскую среду. В таком городе хорошо развита система общественного транспорта и легко передвигаться пешеходам и велосипедистам, а кое-где и яхсменам. Различные аспекты городской среды – от экологии и устойчивости до социокультурной среды и экономических возможностей тщательно сбалансированы. Город от модели центра скопления людей, которые функционируют по расписанию, будет уходить к модели союза между человеком и миром природы. В постройках, зданиях и сооружениях будет учитываться разнообразие культур, традиций для всех жителей города. Актуальность этой идеи доказывает проект Sluishuis, архитектурного бюро BIG, многоквартирный дом на 442 квартиры самых разных планировок. Проект, который связал водный и городской ландшафт в общий контекст, сделав жизнь человека у воды удобной. Обращает внимание интересная архитектурная деталь – алюминиевый фасад, похожий на нос корабля, который выдается над водной поверхностью. В этой части здания спроектирован вход малых судов во внутреннюю гавань. Здесь находится центр водных видов спорта с парусной школой и ресторан. Проект можно считать устойчивым, ведь жилой комплекс характеризуется высокой энергоэффективностью. Потребность Sluishuis в энергозатратах минимальна, так как архитекторы предусмотрели современные методы изоляции, тройное остекление и рекуперацию тепла от системы вентиляции. Энергопотребление здания полностью обеспечивается солнечными панелями.

– Вопрос Елене Крыловой. Как дизайнеру может пригодиться знание трендов в архитектуре? Верно ли, что архитектура – своего рода источник для творчества дизайнера?

– Абсолютно так. Перед дизайнером также стоит задача создания гармонии внешнего и внутреннего. Интерьер всегда продолжает концепцию экстерьера, они связаны напрямую, и без знания архитектурных трендов и понимания стилевых особенностей дизайнер не сможет творить. Так что не ошибусь, если скажу, что в дизайне все начинается с архитектуры.

Авторы: СГ-Онлайн

Россия. Весь мир. ЦФО > Недвижимость, строительство. СМИ, ИТ. Экология > stroygaz.ru, 13 февраля 2024 > № 4597947 Елена Крылова, Маргарита Шаткова

Учителя стали привлекать нейросети для проверки контрольных

Юлия Гуреева

Вслед за учениками, котоые по всему миру уже стали использовать искусственный интеллект (ИИ) для решения задач и написания рефератов, нейросетями заинтересовали и учителя. Например, в Китае с помощью таких алгоритмов педагоги стали проверять контрольные работы. В России эксперты также ожидают активного проникновения технологий ИИ в сферу образования уже в этом году.

Преподаватели в Китае активно обращаются к нейросети ZipGrande, которой на данный момент пользуется почти 800 тысяч человек. Нейросеть представлена в качестве мобильного приложения, а ее ключевая задача - быстрая проверка экзаменационных и контрольных работ школьников. Об этом говорится на сайте разработчиков системы.

Программа работает следующим образом: пользователь наводит смартфон с включенной камерой на бумажные записи, после чего ИИ всего за несколько секунд проверяет работу на предмет ошибок и предоставляет полученный результат.

При этом можно оформить подписку, которая позволит проверять неограниченное количество текстов, или загружать в систему по 100 работ ежемесячно. Как показал опрос, 60% преподавателей считают, что больше всего времени отнимает проверка контрольных, а потому такая система позволяет значительно облегчить работу.

ИИ активно используют преподаватели и в других странах. К примеру, согласно исследованию австрийского федерального издательства ÖBV, около 44% местных учителей обращаются к ChatGPT в повседневной школьной жизни. Более того, 60% респондентов уверены, что нейросети полезны для поддержки процессов обучения, а 71% заявили, что молодежи нужно учиться использовать такие технологии.

Использовать ИИ для обучения собираются и в России. "В традиционном классе учитель чаще всего выстраивает учебный процесс, ориентируясь на средних учеников. Сильным школьникам в этих условиях довольно легко и скучно, а слабым, наоборот, очень сложно и они не могут встроиться в темп. Платформы на основе ИИ могут оценивать темп и сложность, в зависимости от индивидуальных особенностей каждого учащегося, и предлагать индивидуальные подборки заданий", - говорится на сайте федерального проекта "Искусственный интеллект".

2023 год стал пробным в массовом применении ИИ. Пользователи по всему миру оценили преимущества умных алгоритмов, приближающих взаимодействие с нейросетью к общению с живым человеком, которые вместе с тем снижают себестоимость и оптимизируют многие рутинные процессы. Уже в этом году ожидается более "смелое и активное" внедрение технологии в такую чувствительную к реформам сферу, как образование, считает президент образовательной корпорации "Синергия" Вадим Лобов.

Однако на этом "революции" не остановятся. Эксперт предположил, что в дальнейшем в этой области появятся нейропреподаватели, которые, хотя и не смогут заменить реальных лекторов, будут все же выполнять роли репетиторов или помощников в решении учебных задач. "Имитируя человеческий подход, алгоритм сможет объяснить этапы решения задачи, а не просто выдать ответ. Конечно, они могут использоваться и для первичной проверки сданных работ", - сказал он.

Нейросети позволят учителям сосредоточиться на творческой части работы, а учащимся - получать индивидуальный подход в процессе обучения: например, системы будут персонально отвечать на уточняющие вопросы учеников. ИИ может использоваться и для обучения людей с ограниченными возможностями наравне со сверстниками, добавляет Лобов.

В России будут маркировать контент, созданный нейросетями

Олег Капранов

Один из крупнейших игроков на рынке искусственного интеллекта и нейросетей, компания OpenAI, сообщила, что начали маркировать все изображения, которые создаются в ChatGPT и их API. Чуть ранее компания Meta (признана в России экстремистской и запрещена) так же объявила, что будет маркировать изображения, созданные ИИ, которые публикуются в соцсетях компании. Эксперты отмечают, что Россия так же нуждается в регулировании рынка контента, созданного при помощи алгоритмов.

Количество фейков, распространяемых в сети, растет. Согласно данным АНО "Диалог Регионы", за 2023 год в российском сегменте интернета было зафиксировано 4 тыс. уникальных фейков и 12 млн случаев их распространения. По прогнозу экспертов, в 2024 году число уникальных фейков вырастет до 4,5 тыс., а их копий - до 15 млн.

В конце декабря 2023 года премьер-министр России Михаил Мишустин поручил Минцифры "обеспечить проработку" мероприятий по выявлению недостоверных данных. В частности, речь идет об идентификации контента, сгенерированного с использованием технологий искусственного интеллекта (ИИ). Согласно поручению главы кабмина, Минцифры должно выполнить поставленную задачу к 19 марта 2024 года.

Эксперты отмечают целый набор проблем, связанных с нерегулируемым применением ИИ для генерации контента. Это и нарушения авторских прав, и генерация абсолютно вымышленного контента в ситуациях, когда необходимо опираться на фактуру, и мошеннические действия с применением дипфейков.

"Как адвокат, занимающийся вопросами, связанными с ИИ, я слежу за развитием судебной практики, и серьезное беспокойство вызывают случаи, когда, например, даже опытные, именитые зарубежные адвокаты, используют ИИ при подготовке к суду, а ИИ просто выдумывает судебные прецеденты, на которых основывается позиция по делу. Такая ситуация случилась с с адвокатами Стивеном Шварцем и Питером Лодуком, и хорошо, что судья заметил вымышленные кейсы, ведь это не только разрушает деловую репутацию конкретных адвокатов, но и может стать причиной ошибочного решения, что совершенно недопустимо", - говорит Наталья Вашеняк, адвокат, член адвокатская палаты г. Москвы.

"Проблем уже сейчас достаточно много. Могу сказать, что с такими вопиющими случаями нарушения авторских прав мы не сталкивались никогда. Крайне интересно, по какому пути пойдет законодательство в этой сфере, надеюсь, что в скором времени все-таки примут новую редакцию статьи о результатах интеллектуальной деятельности, созданных с использованием искусственного интеллекта", - отмечает IP/IT юрист София Залуцкая.

Опрошенные "РГ" юристы полагают, что на этом фоне дипфейки - исключение из общего правила. "Вопрос маркировки в этом случае кажется затруднительным и, на мой взгляд, регулирование дипфейков нуждается в создании серьезного массива императивных норм. Мне близок опыт Китая; законодателями этой страны было принято решение о создании жестких ограничений в этой сфере", - уверена Залуцкая.

С этим согласен глава комитета Госдумы по информполитике Александр Хинштейн. "Технически дипфейки и контент, созданный генеративными нейросетями, это разные истории. Но темпы развития ИИ сейчас таковы, что мы часто встречаемся, например, с графическим контентом, который создается нейросетью на основе образов знаменитостей, политиков и т.д. Кибермошенники используют модуляцию голоса, обучая нейросеть на записях голоса реального человека", - сообщил Хинштейн "РГ".

Сегодня дипфейки скорее приносят обществу больше отрицательного, чем хорошего, создавая новые вызовы. Среди них, прежде всего проблема использования их в мошеннических целях, а также создание их без согласия владельца персональных данных, уверен член комитета Госдумы по информполитике Антон Немкин. По его словам, закон о маркировке контента, созданного при помощи искусственного интеллекта, сегодня уже прорабатывается в Госдуме.

При этом, эксперты обращают внимание на то, что для введения полноценного регулирования в этой сфере предварительно потребуется законодательное закрепление целого ряда специальных терминов.

"Вопрос маркировки контента, созданного нейросетями, прежде всего требует законодательного закрепления понятий "нейросеть", "дипфейк", "искусственный интеллект". ИИ, при стремительном распространении технологии, сегодня упоминается всего лишь в двух федеральных законах. Эту ситуацию необходимо менять, иначе мы столкнемся с серьезными затруднениями в ближайшее время. Чтобы этого не допустить, межведомственная рабочая группа, в которую вхожу и я, разрабатывает концепцию Цифрового кодекса, где будут отражены эти вопросы", - сообщил Хинштейн.

Наиболее компромиссным путем, полагают эксперты, действительно может стать маркировка такого контента. "Учитывая тот факт, что наша страна выбирает стратегию не "остановить" развитие ИИ, а возглавить этот процесс и занять лидирующие позиции в мире, регулирование в этом вопросе должно вводиться обязательно, но крайне обдуманно и аккуратно", - полагает депутат Немкин.

Если же пустить ситуацию на самотек, то это может приводить, и уже приводит к весьма неприятным последствиям. Например, дипфейки могут использоваться в политических целях. Антон Немкин напомнил, как в прошлом году ряд телеканалов и радиостанций транслировали видеоролик с "обращением" президента России Владимира Путина, который был подготовлен при помощи технологии дипфейк с использованием замены лица. "В записи, которая выдавалась за выступление президента, было сделано ряд серьезных заявлений - если бы их распространение не удалось вовремя пресечь, последствия такой преступной выходки хакеров могли бы быть крайне масштабными".

Широкие возможности открываются и для мошеннических действий. В частности, не так давно распространилась мошенническая схема, в рамках которой мошенники взламывали аккаунты пользователей в Telegram и рассылали сообщения с просьбой занять в долг. При этом в рассылке таких сообщений аудиодипфейки - практически беспроигрышный способ обмана, так как люди не привыкли, что сегодня сгенерировать можно и это. Насколько беззащитными окажутся люди, если это будут не просто голосовые сообщения, а например видеозвонки в реальном времени - представить трудно.

При этом выявлять материалы, созданные с помощью ИИ, в России уже умеют - например, с помощью системы мониторинга "Зефир", разработанной АНО "Диалог Регионы". Система используется для верификации и анализа сфабрикованного аудиовизуального контента, в том числе дипфейков, транскрибирования и перевода речи на различные языки и поиска копий ранее загруженных файлов.

Как рассказали "РГ" в АНО "Диалог Регионы", за 2023 год "Зефиром" было обработано свыше 3,5 тыс. единиц медиаконтента, выявленного в ходе ежедневного мониторинга. Специалисты определили, что порядка 1 тыс. проверенных роликов оказались сгенерированными с помощью технологий ИИ. Также, за этот же период в поточном автоматическом режиме было проверено еще порядка 2 млн видео- и аудиозаписей.

При этом система умеет определять съемки на хромакее, выявлять следы обработки аудиоконтента, находить копии по видеоматериалам и по транскрибированному тексту, выявлять первоисточник и отслеживать известных персон в видеороликах.

Однако, отмечают специалисты, крайне важно в стремлении контролировать технологию, не остановить ее развитие. Ведь дипфейк может использоваться не только в мошеннических целях, но и например в творческих.

За три года эта технология прошла огромный путь - от шуточных видео, когда кто-то кого-то изобразил, до реального инструмента. Есть вопросы к качеству, оно требует доработки, но технология активно развивается, отмечает глава ИРИ Алексей Гореславский.

"Десять лет назад в Голливуде было около 5% компьютерной графики, сейчас уже более 30%, по разным подсчетам. А искусственный интеллект плюс компьютерная графика равно новые синтетические актеры, которые работают 24/7 и бесплатно. Вместо того, чтобы платить гонорар по 100 миллионов долларов в год, можно сгенерировать самого популярного артиста. Думаю, что в ближайшие 2-3 года мы увидим полностью искусственных персонажей, которые станут главными героями контента - художественного, развлекательного, музыкального - и в России", - рассказал он "РГ".

Цифровизация упрощает получение финансовых услуг

Анастасия Павлова

В целом, отечественный банковский сектор - один из лидеров процесса внедрения информационных технологий, активно тестирующий новые решения. Так что цифровой рубль, а также цифровая ипотека, удаленная идентификация и тому подобное - все это наше ближайшее будущее.

Еще в 2020 году, по данным "Делойт", Россия вошла в лидирующую группу стран с высоким уровнем цифровизации банков. Исследование проводилось методом тайного покупателя - эксперты изучили 318 банков в 39 странах мира. С точки зрения развития дистанционного обслуживания, создания новых цифровых сервисов, разработки мобильных приложений российские банки уверенно опережали среднемировые показатели.

"В условиях санкций и ограничения доступа к зарубежным технологиям российский финансовый сектор может рассчитывать преимущественно на отечественные разработки. Многие не только усиливают собственные департаменты разработки, но и активно работают со стартапами", - говорит Константин Аксенов, директор департамента разработки платформы Deckhouse компании "Флант".

Высокая потребность в цифровизации связана и с предпочтениями клиентов.

Исследование FINIX YnP показало, что в 2022 году аудитория цифровых каналов в российских банках составила около 30 процентов. "Это очень высокий показатель: даже у наиболее успешных в мире необанков он редко превышает 25-35 процентов", - говорит Евгений Зараменских, профессор, руководитель департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ.

Также согласно упомянутому исследованию в России снижается потребность в банкоматах и отделениях, ими пользуются 35 и 17 процентов клиентов соответственно.

Стоит отметить, что у отечественной финансовой системы появилась возможность путем прорывного развития внедрять новые технологии, минуя промежуточные этапы. Хотя исторически банковская система России находилась в роли догоняющего. К примеру, первый банкомат по выдаче наличных денег, Automated Teller Machine (ATM), был установлен в июне 1967 года на севере Лондона. В России первый банкомат появился спустя 27 лет - в 1994-м.

"Один из факторов активной цифровизации России - география, суровые климатические условия и большие пространства", - считает Василий Кутьин, директор по аналитике Ингосстрах Банка. По его словам, активное развитие средств коммуникации и рост сети мобильного покрытия является единственным путем развития банковского сектора, который должен работать в режиме 24 на 7 вне зависимости от удаленности клиента и погодных условий.

"В России очень просто открыть счет как физлицу, так и юрлицу, легко поменять обслуживающий банк, нет существенных ограничений по тому, в скольких финансовых организациях человек имеет счет и какими услугами пользуется. Клиенты избалованы новыми опциями, бонусами, "фишками" крупных банков", - рассказывает Алина Бажулина, управляющий филиалом АКБ "ФОРА-БАНК" в Санкт-Петербурге.

Такие скорости развития сложно представить в Европе или США, где до сих пор банковский сектор очень консервативен, в ходу чековые книжки, а мобильное приложение у банка - сервис с ограниченным набором услуг.

Ключевыми инновациями российских банков последних лет эксперты считают отечественный аналог SWIFT - систему передачи финансовых сообщений Банка России (СПФС), систему быстрых платежей, оплату по биометрическим параметрам, внедрение pay-сервисов, стикеров с встроенным NFC-чипом, популяризацию BNPL-сервисов, когда стоимость онлайн-покупки можно разбить на несколько долей и выплачивать их не сразу, а частями. А также биометрическую банковскую идентификацию, цифровой рубль, цифровые финансовые активы, внутрибанковские инновации.

Константин Аксенов рассказывает, что весь прошлый год в финсекторе прошел под знаком генеративного искусственного интеллекта. После того как компания Open AI представила чат-бот ChatGPT, банковский сектор активно экспериментирует с этим инструментом. "Уверен, что в этом году мы увидим больше примеров использования генеративного искусственного интеллекта и появления новых сервисов на его основе", - говорит эксперт.

В ближайшие годы снижения темпов внедрения инноваций в российском банковском секторе, а тем более "отката" назад, специалисты не ожидают. Банки будут и дальше углубляться в цифровые технологии, чтобы поддерживать свою конкурентоспособность.

По мнению Александра Шпета, генерального директора "Скай Технолоджис" (ГК Softline), можно ожидать быстрого развития интернет-платежей по китайской модели. "Представьте, что кошелек и банковская карта больше не нужны, оплата происходит через сообщение от бота в мессенджере или по специальной ссылке, - говорит он. - Тот же Telegram становится ближе к WeChat - самому популярному приложению Китая с множеством интернет-магазинов с различными функциями: платежи, электронная коммерция, доставка еды, туризм и прочее. При этом на старте WeChat был лишь мессенджером".

Все более важными для банковского сектора становятся инновации на основе блокчейн-технологии. Это в первую очередь создание цифровых валют, в нашей стране - это цифровой рубль.

Банк России уже проводит пилотный проект по внедрению цифрового рубля с рядом российских банков и их реальными клиентами. Сейчас в тестировании операций с реальными цифровыми рублями принимают участие 13 банков (станет 30), около 600 граждан, а также почти 30 торговых и сервисных компаний.

Несмотря на то что в массовый оборот цифровые рубли планируется ввести не ранее 2025 года, уже сейчас нужно настраивать инфраструктуру. Например, планируется разработать унифицированный QR-код для безналичной оплаты покупок, в том числе и с помощью цифрового рубля.

На фундаменте блокчейна базируется еще одна новация финансового сектора - это выпуск цифровых финансовых активов (ЦФА), которые дают их владельцам цифровые права на некоторые виды имущества. Согласно прогнозу "Эксперт РА", в 2024 году объем рынка ЦФА может достигнуть 125 миллиардов рублей.

В целом эксперты уверены, что все инновации банков будут востребованы у наших граждан. "В России никогда с этим проблем не было. У нас высокий уровень принятия технологических инноваций в силу инженерной культуры и моды на новые технологии", - говорит Михаил Попов, банкир, основатель финтех-платформы TalkBank.

Россияне, действительно, с удовольствием и активно используют финтех-инновации, которые делают жизнь удобнее, особенно в части платежей и упрощения бюрократических процессов.

Искусственный интеллект внедряется в настоящее образование. В чем плюсы и минусы

Олег Капранов

По мнению экспертов АНО "Цифровая экономика", в обозримом будущем образование невозможно будет редставить без участия искусственного интеллекта (ИИ), который будет использоваться всеми участниками образовательного процесса на всех его этапах. При этом внедрение ИИ в образование происходит не ради самого факта такого внедрения, а должно оказать существенное влияние на экономику. По оценкам консалтинговой компании McKinsey, рост доходов мировой индустрии образования благодаря внедрению технологий ИИ может составить до 4% в ближайшие три года.

Примеров практического использования генеративного ИИ в системе образования как в России, так и в мире, уже много. Например, несмотря на запрет использования нейросетей для студентов при написании работ в ряде вузов Италии, Германии, Японии, Гонконге, Франции, Великобритании, США и Австралии, эти же учреждения интегрируют нейросети в программы преподавания и обучения. Например, студенты крупнейших университетов Австралии могут применять ИИ в работах, если раскрывают соавторство, а студенты и преподаватели университета Гонконга помимо доступа к ChatGPT и Dall-E могут пройти онлайн-курсы, чтобы научиться более эффективно использовать нейросети. В Гарварде пошли еще дальше. Начиная с этого учебного года преподавать студентам вводный курс по программированию будет уже искусственный интеллект.

Изучение и использование ИИ и чат-ботов уже включают и в школьные программы государственных школ. В новом учебном году в 450 школах Гонконга появился вводный курс по нейросетям, где часть программы посвящена широкому обсуждению воздействия ИИ на общество, а другая - практическому применению полученных знаний. Похожий курс внедрили и в школах Нью-Йорка. Цель - развивать учеников младших классов, ведь в течение жизни эти новые технологии могут им очень пригодиться. Нынешнее поколение смело можно назвать "поколением нейросетей".

В деле интеграции нейросетей в образование Россия движется в ногу с крупнейшими технологическими державами мира. От желания запретить использование ИИ в курсовых и дипломных работах до его полной легализации в учебной деятельности у нас прошло довольно мало времени. Например, МГПУ первым официально разрешил своим студентам использовать нейросети для подготовки работ, а Уральский государственный горный университет заявил о скором внедрении ИИ в систему управления учебным процессом.

Помимо этого, в российских высших учебных заведениях изучать нейросети с начала этого учебного года смогут не только студенты технических специальностей, а все заинтересованные. "У нас есть практический опыт применения нейросетей в учебном процессе, так, мы совместно с факультетом дизайна разработали программы дисциплин "Искусственный интеллект в креативных индустриях" и "Нейросети в творчестве". На факультете информационных технологий мы активно используем Copilot, Tabnine, СHatGPT, GigaChat и Mintlify как в помощь студентам для написания кода, так и для составления документации. А в ближайшее время к ним добавится еще и YandexGPT", - говорит декан факультета информационных технологий Университета Синергия Александр Захаров.

Основам работы с нейросетями обучают и школьников, и их преподавателей, проводят олимпиады и соревнования, создают факультеты, расширяют программы дополнительного образования. До 2030 года в России будет реализован проект для автоматической проверки домашних заданий школьников с помощью ИИ. Все это происходит при поддержке со стороны всех участников процесса: государства, бизнеса, научного сообщества и разработчиков.

Насколько этично использовать нейросети в сфере образования - вопрос дискуссионный. Единых принципов, принятых всеми, пока нет, однако есть первые попытки обозначить правила. Например, объединение вузов Великобритании Russell Group в июле 2023 года представили первую версию ключевых этических принципов в сфере образования, которыми они будут руководствоваться в дальнейшем. Увидели возможность устранения цифрового неравенства и в ЮНЕСКО, отдельно выделяя необходимость соблюдения интересов человека.

В России эксперты сходятся во мнении, что системе образования стоит начать адаптацию к использованию нейросетей, но важно обозначить границы взаимодействия человека и ИИ. Никто больше не ставит под сомнение применимость нейросетей в образовании. Вопрос в том, каковы границы и правила этого применения.

Россия. ЦФО > СМИ, ИТ. Образование, наука > rg.ru, 5 февраля 2024 > № 4574867 Александр Захаров

Искусственный интеллект изменит роль педагога в информационном обществе

Михаил Никифоренко

Российская сфера образования находится в начале внедрения искусственного интеллекта (ИИ) и пока уступает таким сегментам экономики, как финансовый бизнес, торговля и телекоммуникации. Однако именно образование, которое плотно связано с информацией, особо нуждается во внедрении технологий ИИ. Но этот процесс проходит не без проблем.

Об этом сказано в отчете АНО "Цифровая экономика", НИУ ВШЭ и Аналитического агентства РАЭК, который стороны представили 30 января на ВДНХ. Документ подвел итоги 2023 г. в области ИИ, проследил тенденции внедрения этой технологии в учебных заведениях.

Россия идет в фарватере мирового опыта. С помощью ИИ образование становится качественнее, повышается управляемость образовательных процессов, гласит отчет.

Тенденции, которые превалировали в обучении с помощью ИИ в прошлом году, таковы:

· Индивидуализация - построение индивидуальных адаптивных образовательных моделей.

· Геймификация образовательного контента.

· No-code - создание ИТ-продуктов без написания кода, с помощью робототехники и платформ программирования.

· Обучение технологиям ИИ.

· Микро- и нанообучение - с помощью коротких видеофрагментов, формируемых ИИ.

Основная примета времени в педагогике, согласно отчету, тотальное использование ChatGPT, YandexGPT и других подобных решений преподавателями и учащимися.

Однако специалисты опасаются, что использование ИИ может привести к изменению когнитивных способностей. Привычка полагаться на ИИ снижает когнитивную нагрузку и может отрицательно сказаться на развитии навыков критического мышления. Кроме того, образовательный процесс может зайти в тупик, замкнувшись сам на себя.

Доктор педагогических наук, лауреат правительственной премии в области образования Людмила Босова прокомментировала некоторые аспекты доклада.

"Долгое время ИТ-технологии обеспечивали людям коммуникацию "человек-человек". Сейчас время коммуникации "человек-чат-бот". Скоро, благодаря искусственному интеллекту, мы можем получить коммуникацию "чат-бот-чат-бот", ведь человек из нее просто выпадет. Тут есть риск и для школьного образования. У нас есть примеры, когда с помощью генеративного искусственного интеллекта создаются учебные материалы. Учителя в восторге от невероятной методической разработки уроков, которая полностью удовлетворила завуча, а учителю была особенно и не нужна. Что получается? ИИ сгенерировал учебный материал, он же создал методическую разработку, там он предусмотрел домашнее задание, которое было выдано ученику. Он выполнил эту "домашку" с помощью искусственного интеллекта и отдал его на проверку учителю, который не стал заморачиваться и проверил его с помощью ИИ. Система работает! А где же образование? Где человек? Основные участники выпали", - опасается учитель.

Она рассказала, что все равно верит в искусственный интеллект, при условии, что хороший учитель выступит в роли коммуникации с учеником.

"Пусть ИИ выполнил за ученика домашнее задание, обучил его чему-нибудь. Роль учителя в том, чтоб выяснить, насколько ученик понял материал, может ли он сформулировать идею, мысль. Поэтому нам искусственный интеллект только в помощь", - подытожила Людмила Босова.

Директор по взаимодействию с органами власти в сфере образования "Яндекса" Дмитрий Растворов рассказал, что еще несколько лет назад в проект "Яндекс Учебник" были постепенно введены элементы ИИ, но роль учителя при этом не ослабла.

"Проект помогает учителю подготовиться к урокам и облегчает рутинный процесс проверки домашних заданий. Несколько лет мы стали очень осторожно, на уровне рекомендаций, вводить ИИ в наш сервис. Это позволило учителю увидеть динамику выполнения домашних заданий, выявить типичные ошибки учеников. Мы предложили педагогу варианты заданий, которые позволят, с учетом всей полученной информации, эффективно отработать западающие навыки у ребенка. Мы всегда настаивали на том, что учат не технологии, а учитель", - говорит Дмитрий Растворов.

В комментарии ComNews он выразил уверенность, что в ближайшем будущем роль учителя в образовании останется незыблемой, несмотря на развитие искусственного интеллекта. Но эта роль может видоизмениться.

"Моя позиция, как человека, имеющего педагогический и управленческий опыт в системе образования и теперь работающего в ИТ-компании, - роль учителя еще долго будет оставаться важной. Начнем с того, что для разработки технологии ИИ нужны талантливые ИТ-специалисты. Самый широкий круг компетенций. А для того, чтобы когда-то давно в школе у этого ребенка появился интерес к информатике или другой сфере, связанной с цифровизацией, нужен учитель, который сможет его увлечь, заинтересовать, мотивировать. Необязательно именно этот педагог даст ему все эти знания. Ведь их можно получить с помощью генеративных нейросетей, просто интернета - источников много. Но чтобы ориентироваться в этом многообразии, нужно начинать формировать информационную культуру еще в дошкольном возрасте. Так что важность педагога-наставника по-прежнему остается высокой", - рассказывает представитель "Яндекса".

Дмитрий Растворов допускает, что в некоторых случаях учитель может потерять актуальность, потому что у школьника есть смартфон, доступ к информации. Школа не является единственным источником знаний.

"Важная миссия учителя - научить этой информацией пользоваться. Роль педагога в информационном обществе меняется - вместо источника знаний он становится навигатором в цифровой среде. Но считаю, и это не только моя, но и позиция многих членов команды, что даже не нужно стремиться заменить педагога технологиями ИИ. Технологии могут помогать разнообразить образовательный процесс, исключить момент "избыточной" харизматичности педагога, который будет отвлекать от предмета обучения, а также высвободить время. Но для чего нужно это время в учебном процессе? Для живого, эмоционального общения с учителем", - убежден Дмитрий Растворов.

Как рассказала ComNews представитель пресс-службы "Яндекса" Даниэль Василевич, педагог в современных реалиях обучает не только живых учеников, но и сам искусственный интеллект.

"Появляется много нейросетей, специализирующихся на образовании - например, в учебнике есть "джепетитор", который готовит к сдаче ЕГЭ по программированию и информатике. Но чтобы создать и обучить эту нейросеть мы привлекали учителей со всей России, чтобы они нам помогали. Тут востребовано их понимание потребностей учеников, которых они обучали. Так меняется роль учителя в информационную эпоху", - подытожила Даниэль Василевич.

Большой проблемой цифровизации, по мнению Дмитрия Растворова, является то, что технологий много, но ни ученики, ни учителя к этому не готовы.

"Несмотря на то что ученики рождены в эпоху интернета, грамотно применять современные технологии с пользой для обучения они зачастую не умеют. А научить их не всегда есть кому, потому что учителя, которых готовили по классическим стандартам, могут не владеть необходимыми цифровыми навыками. Их учили преподавать математику, а не использованию инструментов искусственного интеллекта в образовательном процессе. Это проблема, которая стоит перед государством. И оно ее осознает. Крупные технологические компании могут решить эту задачу. В частности, наш проект "Яндекс Учебник" призван совместить классическую традиционную методику преподавания с новыми технологиями", - говорит Дмитрий Растворов.

По мнению собеседника, ИИ не является панацеей в обучении.

Заместитель директора департамента по работе с органами государственной власти образовательной онлайн-платформы "Нетология" Марина Гиря рассказал корреспонденту ComNews об особенностях применения ИИ в учебном заведении.

"Нетология" реализует программы по аналитике и программированию, связанные с ИИ. Мы работаем на несколько аудиторий: для студентов, интересующихся искусственным интеллектом, и работодателей, которые хотят научить работе с ИИ сотрудников или нанять новых из выпускников "Нетологии", а также найти ребят, которые имеют серьезный уровень по программам Data Science. Разрабатывая продукты, мы стремимся закрыть потребности как студентов, так и работодателей. Как компания мы применяем ИИ в разных департаментах на различных уровнях - от составления справок до статистики успеваемости студентов, а также в маркетинге, для привлечения пользователей, в клиентском сервисе для обработки жалоб и запросов, чтобы распределять их по разным уровням поддержки", - говорит Марина Гиря.

Пока, по ее мнению, нельзя сказать, что в образовательном процессе ИИ применен повсеместно. С годами в "Нетологии" выработана методика, которую быстро не заменить. Но новая технология берет свое.

"Уже сейчас с помощью ИИ мы генерируем изображения и тексты. Применяем ChatGPT для разработки контента. В перспективе, возможно, будем использовать учителей-аватаров. Первый шаг к этому сделали наши студенты, являясь на "онлайн-пары" в виде виртуальных персонажей. Новое поколение смотрит на подобные вещи очень просто", - говорит Марина Гиря.

Она отметила важность госинициативы по ИТ и искусственному интеллекту. Это, по ее мнению, приведет к массовому повышению цифровой грамотности.

"Некоторые предприниматели не понимают, зачем им ИИ. Мы пытаемся на реальных кейсах разобрать, как он поможет в бизнесе. Например, с его помощью можно обрабатывать карточки товара на маркетплейсах или применять ИИ для бизнес-анализа. Искусственный интеллект ускорит развитие промышленности, медицины, ретейла. И я хочу верить, что это развитие будет созидательным", - надеется Марина Гиря.

Россия. ЦФО > СМИ, ИТ. Образование, наука > comnews.ru, 31 января 2024 > № 4575848 Дмитрий Растворов

Хакеры научились использовать искусственный интеллект в преступных целях

Дмитрий Бевза

Искусственный интеллект стал самой популярной технологией 2023 года, однако машинное обучение, нейросети и особенно LLM (Large Language Models - большие языковые модели) освоили не только разработчики ПО и специалисты по работе с данными, но и злоумышленники.

Киберпреступники оценили способность чат-ботов, таких как, например, ChatGPT, работать с неполными и неструктурированными данными, программным кодом и логами. В 2023 году специалисты из Kaspersky Digital Footprint Intelligence обнаружили на хакерских форумах и специализированных телеграм-каналах почти 3000 постов с коммерческими предложениями и обсуждением методов использования подобных чат-ботов в преступных целях. Сегодня такие чат-боты в руках хакеров отлично справляются с автоматизацией атак с использованием социальной инженерии. Ими пользуются при написании фишинговых сообщений для разных целевых аудиторий и на разных языках. Работа, на которую у злоумышленников раньше уходили дни и недели, теперь выполняется за часы.

Фишинг - это разновидность интернет-мошенничества, когда злоумышленник, выдавая себя за коллегу, делового контрагента или руководителя, старается обманом получить доступ к важной информации: логинам, паролям, данным банковских карт, служебной переписке. Помимо этого, злоумышленники используют ChatGPT для написания вирусов, троянов и другого вредоносного ПО. Так, в одной из веток обсуждений на хакерском форуме после того, как преступник задал вопрос, касающийся обработки строк определенного формата, ему предоставили сгенерированный ChatGPT корректный ответ.

Серьезной угрозой, которую злоумышленники осуществили с помощью искусственного интеллекта, стали профессиональные дипфейки

Еще одним способом использования ИИ в противозаконных целях стало появление альтернативных чат-ботов, таких как WormGPT, xxxGPT, WolfGPT, FraudGPT, DarkBERT и пр. Это языковые модели, рекламируются как замена ChatGPT, но работающие при этом без всяких ограничений. Большая часть таких решений может быть использована как правомерно, так и для нелегальной активности, например для написания рабочего кода вредоносных программ.

Однако если создание сложных вредоносных программ с помощью ИИ дело хотя недалекого, но будущего, то создание простых телеграм-ботов, которые предлагают пользователям быстрый заработок или выгодные инвестиционные возможности, по словам заместителя руководителя Центра практической ИБ Innostage Ксении Рысаевой, уже сегодня стало одной из самых распространенных схем использования ИИ. После того, как пользователь переводит деньги на счет бота, мошенники исчезают и средства остаются у них.

Еще одной серьезной угрозой, которую злоумышленники реализовали с помощью ИИ, стали дипфейки. В этом случае жертве отправляют голосовое сообщение в мессенджере от лица знакомого, коллеги или руководителя с просьбой перевести деньги или поделиться конфиденциальной информацией. Пока еще такие предзаписанные сообщения в половине случаев распознаются потенциальными жертвами как сгенерированные. Это происходит из-за несоответствия интонации смыслу сообщения и роботизированного звучания.

Но когда злоумышленники с помощью дипфейк-технологий и алгоритмов искусственного интеллекта научатся подделывать голоса в "прямом эфире", то их общение с жертвами станет намного более убедительным и "нас ждут феерические проблемы", считает главный эксперт "Лаборатории Касперского" Сергей Голованов.

ChatGPT не смог поставить диагноз в 83% случаев

Новое исследование показало, что чат-бот с искусственным интеллектом ChatGPT не может поставить точный педиатрический диагноз в большинстве случаев. Чат-бот на основе ИИ предоставил неправильные диагнозы в 72 педиатрических случаях из 100. Еще в 11 случаях диагноз был неточным.

Исследователи обнаружили, что чат-бот с искусственным интеллектом, работающий на языковой модели под названием GPT-3.5 от OpenAI, не смог правильно диагностировать 83% педиатрических случаев, которые исследовал. Результаты исследования опубликованы в журнале JAMA Pediatrics.

Ранее ученые выяснили, что более новая языковая модель под названием GPT-4 правильно диагностировала только 39% сложных медицинских случаев как у взрослых, так и у детей.

В рамках нового исследования ученые использовали 100 медицинских отчетов из журналов JAMA Pediatrics и The New England Journal of Medicine (NEJM). Чат-бота попросили «провести дифференциальный диагноз и предоставить окончательный диагноз».

Дифференциальная диагностика в медицине исключает не подходящие по каким-либо фактам заболевания со сходными симптомами. В конечном счете, это должно свести диагноз к единственно вероятной болезни.

ChatGPT предоставил неправильные диагнозы для 72 из 100 случаев, при этом 11 из 100 результатов были классифицированы как «клинически связанные, но слишком общие, чтобы считаться правильным диагнозом».

В одном из случаев, ChatGPT поставил подростку с аутизмом, у которого проявлялись симптомы сыпи и жесткости суставов, диагноз иммунная тромбоцитопеническая пурпура. Это аутоиммунное заболевание, которое влияет на свертывание крови, вызывая синяки и кровотечения. Однако врач диагностировал у подростка цингу, состояние, вызванное тяжелым недостатком витамина С. Люди с аутизмом могут придерживаться очень ограничительных диет из-за чувствительности к пищевым текстурам или вкусам, что делает их склонными к дефициту витаминов.

Источник: https://hightech.fm/

Эксперты в области образования из ОАЭ и США считают, что начиная с 2024 года в образовательных учреждениях по всему миру начнет меняться подход к образованию. В основу лягут искусственный интеллект и персонализация, методы оценивания студентов изменятся, а концепция непрерывного обучения получит еще более широкое распространение.

По словам Пола Алмейды, декана McDonough School of Business, чтобы процветать в стремительно меняющемся мире, профессионалы больше не могут опираться на образование, которое они получили 10 или 20 лет назад, когда такие темы, как устойчивое развитие или искусственный интеллект, почти не затрагивались.

«Обучение на протяжении всей жизни стало острой необходимостью для профессионалов, стремящихся преуспеть в быстро меняющемся мире», — сказал он.

«Для таких быстроразвивающихся стран как ОАЭ, обучение на протяжении всей жизни становится еще более важным, потому что помогает создать современную квалифицированную рабочую силу».

«Благодаря персонализации ученики получают возможность самостоятельно настраивать свое обучение с учетом индивидуальных сильных сторон и предпочтений, получая навыки, которые соответствуют меняющимся требованиями глобального рынка труда», — сказал г-н Алмейда.

Маркос Мюллер Хабиг, исполняющий обязанности генерального директора 42 Abu Dhabi – бесплатной школы программирования – сказал, что ChatGPT сыграет важную роль в преобразовании обучения.

«Благодаря AI-технологиям мы уже видим искусственно созданных преподавателей, которым ученики могут задавать вопросы и получать адаптированные специально под них ответы. Они также помогают с выполнением домашних заданий и подготовкой к экзаменам».

Однако, несмотря на технологическую революцию, он сказал, что традиционные экзамены по-прежнему будут иметь решающее значение при оценке способностей учащихся:

«ChatGPT может написать эссе, но только не в том случае, если тема эссе – личный опыт ученика».

ОАЭ > Образование, наука. СМИ, ИТ > russianemirates.com, 2 января 2024 > № 4554658

Россия начнет инвестировать в более умный искусственный интеллект

Юлия Гуреева

Применение генеративного искусственного интеллекта (ИИ) охватывает множество сфер: от музыки и художественных произведений до ретейла и соцсетей. На фоне популярности таких систем растут и инвестиции в них. Так, в текущем году объем вложений в эту технологию в мире составил более 19,4 млрд долл.

Ожидается, что расходы на генеративный ИИ, инфраструктурное оборудование, IT- и бизнес-услуги в следующем году достигнут примерно 40 млрд долл. К 2027 году этот показатель будет равняться 151,1 млрд долл., следует из прогноза аналитического агентства International Data Corporation. "Несмотря на препятствия в сфере IT в 2023 году, организации стали быстрее осваивать генеративный ИИ, чтобы ускорить трансформацию бизнеса", - подчеркнул вице-президент группы международных исследований компании Рик Вилларс.

Как утверждают эксперты, 2024 год принесет изменения: сперва предприятия нацелятся на внедрение ИИ с целью оптимизации процессов и сокращения времени и затрат для повышения производительности, а затем, когда эта стратегия принесет результаты, уже более активно займутся инвестированием, чтобы повысить свои доходы. По мнению аналитиков, с 2023 по 2027 год среднегодовые темпы роста составят 86,1%. Что касается вложений на отечественном рынке, то по сравнению, например, с США и Китаем этот показатель значительно отстает. Однако есть и положительные стороны: более 30% российских организаций намерены начать внедрять нейросети в ближайшие три года.

Двумя ключевыми направлениями, в которые компании будут чаще вкладывать, являются практическое применение ИИ в системах поддержки принятия решений и разработка "остромодных" нейросетей, как ChatGPT и других подобных систем, заявил руководитель отдела перспективных исследований "Криптонит" Василий Долматов. "Точные цифры и распределение средств между различными направлениями могут варьироваться в зависимости от экономических условий и стратегических приоритетов компаний, а также государственных мер поддержки и регулирования.В 2024 году в тестовом режиме государственные субсидии будут выдаваться только тем компаниям, которые используют технологии ИИ, что сильно повлияет на распределение бюджетов", - объяснил архитектор решений на базе платформы "Сфера" Дмитрий Чувиков.