Всего новостей: 4324575, выбрано 213 за 0.002 с.
Новости. Обзор СМИ Рубрикатор поиска + личные списки
Списков нет
Будет ли искусственный интеллект писать дипломы и сочинения
Мария Агранович
Интернет шумит который день: нейросеть ChatGPT написала выпускнику РГГУ диплом за сутки, и этот диплом на защите приняли! Правда, "нейродиплом" получил трояк, но все же никто не заметил подвоха. Будущее наступило? Можно не корпеть ночами над дипломами? А может, так и кандидатскую можно "сбацать"?
В вузе, правда, уже сказали, что считают необходимым ограничить использование подобных технологий в образовании. Но как ограничить то, доступ к чему есть у каждого - с домашнего компьютера или мобильного телефона? Правда, в случае с ChatGPT нужно подключаться через vpn.
Скажем сразу, случай с РГГУ - не первый и точно не последний. Сегодня искусственный интеллект уже заменяет человека во многих сферах деятельности. Таков прогресс: нейросети пишут письменные ответы на запросы пользователей в разных компаниях, ведут интернет-трансляции, управляют механизмами на предприятиях.
Но если на производстве такое - в "плюс", то в образовании может привести к печальным результатам. Или нет? Кто умнее - нейросеть или профессор?
- Нашумевшая ChatGPT - интересный пример использования нейросети в текстовом поле. Благодаря сервису искусственного интеллекта возможно найти максимально точные ответы на вопросы из разных областей знаний, - пояснила "РГ" руководитель Всероссийского конкурса "Начни игру" АНО "Россия - страна возможностей" Марьям Карпова. Одним из функционалов платформы, кстати, является написание сценариев, статей, блогов и даже литературных произведений. И с этой задачей искусственный интеллект справляется отлично, поэтому и диплом написать ему вполне по силам.
Но, несмотря на увлечение современными технологиями, в процессе обучения безусловно важно погружаться в темы лично, структурируя свои знания и навыки и создавая уникальные "продукты" своего интеллектуального труда.
По мнению доцента института N8 "Компьютерные науки и прикладная математика" МАИ и факультета компьютерных наук ВШЭ Дмитрия Сошникова, ChatGPT безусловно осложнит жизнь преподавателям.
- Мы с коллегами в МАИ провели эксперимент: решили проверить, сможет ли ChatGPT сдать экзамен по логическому программированию, - рассказал "РГ" эксперт. - Оказалось, что чат-бот успешно решает несложные задачи на экзотическом языке программирования Prolog, и худо-бедно отвечает на вопросы тестов с множественным выбором. Более того, нейросеть в процессе диалога поведала нам, в каких областях программирования эффективно использовать Prolog, и даже привела пример программы, которая могла бы использоваться в биоинформатике! В общем, тройку или даже четверку на экзамене искусственный интеллект смог бы заработать!
С другой стороны, говорит Дмитрий, подобные инструменты позволяют повысить эффективность творческой работы, взяв на себя написание больших объемов текста, и оставив человеку самое главное - придумывание идеи.
- Я не вижу ничего плохого в том, что студент или ученый-исследователь генерирует значительную часть своей работы с помощью искусственного интеллекта, но до той поры, пока сам несет полную ответственность за содержание, - подчеркивает Дмитрий Сошников. - Нейросеть может очень легко писать бессмысленный текст (например, я попросил ее придумать 10 причин, почему огурцы вызывают бессонницу, и она справилась!), и задача человека - следить за тем, чтобы полученный в результате текст соответствовал тем целям, ради которых он пишется. Если диплом, написанный с помощью ChatGPT, содержит в себе оригинальные мысли студента, является научно обоснованным, и студент на защите демонстрирует знание проделанной им работы, - я не вижу в этом ничего предосудительного.
Интересно: ситуация с ChatGPT напоминает дискуссию о том, можно ли давать студентам свободно пользоваться на экзамене справочными материалами. Запрещая это, можно проверять знания студентов, но, по мнению Сошникова, на относительно типовых задачах.
- Если разрешить использование справочных материалов и интернет, то нам, преподавателям, придется придумывать более творческие задания. Но зато такой экзамен будет максимально приближен к реальной жизни, в которой информация всегда доступна, но нужно применить свои творческие навыки для решения более сложной задачи, - считает эксперт.
Но что мы все о студентах и школьниках. Ведь и преподаватели тоже смогут использовать нейросети в своей работе. Например, очень эффективно применять ChatGPT в изучении английского: нейросеть может выступать внимательным и, главное, никогда не устающим собеседником. А еще ее можно просить переписать какую-то простую фразу более художественным языком - это хорошо развивает словарный запас.
Словом, нейросети дали нам возможность генерировать любые тексты с невероятной скоростью. И системе образования срочно нужно к этому адаптироваться.
Доцент МАИ и ВШЭ Дмитрий Сошников рассказал, что помимо нейростетей, которые генерируют тексты, есть и те, что умеют рисовать. Да так, что иному художнику дадут фору.
- Такие модели обучены на больших массивах изображений, и они знают много про окружающий мир: основные художественные техники (акварель, масло, пастель и т.д.), стили различных художников, достопримечательности мировых столиц, известных актёров и т.д, - говорит Дмитрий. - Об использовании этих моделей активно спорят в последние месяцы художники и искусствоведы. Ситуация очень похожая с написанием диплома: с помощью таких моделей легко создать красивую репродукцию, которую вполне можно повесить на стену для украшения интерьера. Однако, для создания по-настоящему интересных произведений искусства, необходимо вложить в них какую-то идею - а это может сделать только человек! Мне кажется, достаточно непродуктивно запрещать появившийся генеративный инструмент (что делают некоторые арт-площадки) - гораздо интереснее попытаться адаптироваться к новому миру и немного переосмыслить роль художника - перенеся акцент с процесса материального воплощения идеи в результат, на совершенствование самой идеи. Ведь настоящие произведения искусства начинаются в голове художника, а использует ли он кисть и краски или нейрогенеративные инструменты для воплощения своей идеи в жизнь - не так уж и важно.
Кстати, Дмитрий Сошников создал в интернете настоящую виртуальную выставку картин "пера" нейросети https://soshnikov.com/art/artartificialexpo/
Роман Душкин, преподаватель курса "Введение в искусственный интеллект и разговорные боты" РАНХиГС:
- Прямо сейчас мы в академии исследуем, каким образом можно адаптировать систему образования в целом, а также отдельные курсы и программы под современные условия. Технологии искусственного интеллекта действительно открывают новые возможности. Не все это поняли. Зато прогрессивные школьники и студенты успели разобраться, как использовать это "в своих интересах". И совершенно точно понятно, что никакие запреты не помогут.
При желании студенты найдут способы обойти любые ограничения. У ChatGPT и подобных сетей "широкий" кругозор: корпус текстов, на которых они обучаются, чрезвычайно обширен. Кроме того, ChatGPT спокойно выдерживает контекст беседы - это большой шаг в области ИИ. Но очевидно, что в таких условиях значительно вырастает ценность человека: только он силой своего сознания и интеллектуальных возможностей может подтвердить глубину, актуальность и значение текста, созданного искусственным интеллектом.
Сергей Пекарский, декан факультета экономических наук ВШЭ :
- Академическая профессия базируется на репутации, и эта репутация подразумевает уверенность в том, что человек провел исследование и сделал самостоятельные выводы. Привлечение к дипломной работе любых сторонних текстов абсолютно неприемлемо - кем бы или чем бы они ни были сгенерированы.
Один из студентов на экзамене захотел списать теорему, но не нашел ее доказательство. Сделал запрос в нейросеть, получил ответ в 300 строк. Прилежно переписал и предъявил преподавателю. Нужно было видеть лицо профессора: ведь все доказательство умещается в пять предложений!
А вот другой случай. Для допуска к экзамену по компьютерным сетям нужно было сделать свой сайт, используя определенные языки и соблюдая некоторые требования. Учащийся вбил в нейросеть требования и получил готовый сайт, который прошел все проверки, и допуск к экзаменам.
Подготовила Ольга Воскресенская
Чат-бот на страже закона: В Колумбии судья вынес приговор при помощи искусственного интеллекта
Анна Белорусцева
В колумбийском городке Картахена случился юридический прецедент: судья Хуан Мануэль Падилья вынес приговор на пару с чат-ботом ChatGPT.
В ходе разбирательства "Ваша честь" должен был постановить, покрывает ли медицинская страховка ребенка с аутизмом все расходы на его лечение. При оглашении вердикта господин Падилья решил посоветоваться с искусственным интеллектом и спросил коллегу "без души": "Освобожден ли несовершеннолетний аутист от уплаты сборов за его лечение?" Робот ответил положительно, сославшись на местное законодательство.
Участие искусственного интеллекта в судебном процессе спровоцировало волну споров как в юридическом сообществе, так и среди простых людей, обеспокоенных тем, что реальных вершителей закона пытаются заменить машинами. Господин Падилья, в свою очередь, объяснил, что не пытается лишить коллег судейского молотка, а лишь оптимизирует работу системы правосудия. Для этого он "нанял" ChatGPT, чтобы тот выступал в роли секретаря и помогал структурировать информацию. К тому же при вынесении приговора он опирался не только на мнение робота, но и на прецедент из предыдущих постановлений. Но сам чат-бот не разделил точку зрения "начальника". Он заявил The Guardian, что ChatGPT не место в судопроизводстве, ведь искусственный интеллект "не заменяет знаний, опыта и суждений судьи-человека". Попутно робот посоветовал журналистам осторожнее цитировать его изречения, ведь зачастую он демонстрирует предвзятость и правдоподобно лжет.
Стоит отметить, что ChatGPT не единственный представитель машинного сообщества, которому прочат карьеру на судебном поприще. Так, американские ученые изобрели робота-адвоката. Он должен был защищать первого клиента уже в конце февраля, однако дебют пришлось отложить из-за правоохранителей США, которые грозятся отправить создателей железного юриста за решетку.
ChatGPT стал самым быстрорастущим сервисом в истории
По подсчетам банка UBS, нейросеть привлекла более 100 млн пользователей всего за два месяца. Бот создает сериалы, составляет юридические документы, пишет дипломные работы (пусть и с переменным успехом) и пугает руководство Google
ChatGPT не устает удивлять — и в хорошем, и в плохом смысле. С одной стороны, нейросеть — особенно после недавнего апгрейда — безумно талантлива (для нейросети). На Twitch теперь выходит бесконечный мультсериал Nothing, Forever, созданный машиной по сценариям ChatGPT и с визуалами DALL-E. Пользователи Twitter (соцсеть заблокирована в РФ) хвастаются, что ChatGPT помог им составить досудебную претензию и вернуть деньги, заблокированные в Coinbase. А студент московского РГГУ на днях рассказал, что ему удалось защитить диплом, почти полностью написанный ChatGPT. Правда, получил он в итоге тройку — и то, как заявили в вузе, только благодаря презентации работы. Да и бесконечный сериал, конечно, интересен с концептуальной точки зрения, но такое качество и содержание на языке кинокритиков называются «полный отстой».
С текстами на русском бот вообще едва справляется. Для наглядности: журналистский этюд ChatGPT по статье Reuters о рекордном росте популярности сервиса:
«В январе ChatGPT, популярный чат-бот OpenAI, достиг 100 млн ежемесячных активных пользователей, что сделало его самым быстрорастущим приложением для потребителей в истории согласно исследованию UBS. В последний четверг OpenAI анонсировал ежемесячную подписку по 20 долларов для пользователей США, предоставляя более стабильный и быстрый сервис, а также возможность первыми попробовать новые функции. Возможность использования этого инструмента вызывает вопросы о возможности содействия академической нечестности и распространения неправдивой информации. На прошлой неделе Microsoft анонсировала еще одну инвестицию в OpenAI в размере многих миллиардов долларов в виде денежных средств и предоставления облачных вычислений».
Английский язык бот знает несколько лучше, и этого бывает достаточно для коммерческого применения. В декабре портал Buzzfeed объявил о сокращении 12% штата, а позднее стало известно, что подборки мемов и тесты «Кто ты из сериала «Друзья» теперь будет писать ChatGPT. Как указывает Bloomberg, на новостях акции компании подскочили на 300%, пусть и с частичным откатом. Поэкспериментировал с нейросетью и актер Райан Рейнольдс, совладелец мобильного оператора Mint Mobile:
«Я сказал нейросети написать рекламу Mint Mobile тоном Райана Рейнольдса, используя при этом шутки и ругательство. И попросил упомянуть, что у нас продолжаются праздничные акции, хотя у больших операторов они уже закончились. И вот что получилось. «Привет, это Райан Рейнольдс! Во-первых, позвольте сказать, что Mint Mobile — это охренительно. Но вот еще что: все большие операторы уже закончили свои праздничные акции, а Mint Mobile — нет! У нас праздник продолжается, потому что такие вот мы крутые. Попробуйте Mint Mobile! И кстати, в качестве бонуса вы будете слышать мой голос каждый раз, когда звоните в поддержку. Шучу, такого у нас нет. Ну все, давайте!» Да уж, слегка пугает. Но впечатляет!»
Парадокс в том, что самые яркие на сегодня примеры применения ChatGPT скрывают его главную силу. Появление нейросети не просто так вынудило Google объявить «код красный»: лучше всего она ищет и выдает информацию. Поисковик получит твой запрос и выдаст миллион результатов в порядке релевантности. ChatGPT выслушает, поймет и ответит на уточняющие вопросы с пониманием контекста. Продолжает обозреватель CNBC Стив Ковач:
«Сотрудники Google встревожены. Они беспокоятся, что их вот-вот догонят и перегонят. И они ставят перед руководством вопрос: а что мы, собственно, собираемся делать с этим ChatGPT? Есть ли у нас ответ? Поисковик Google могут превзойти. Если искать что-то в Google, особенно со смартфона, приходится долго листать рекламу, чтобы добраться до органических результатов. Людям приходится бесконечно удлинять и усложнять свои запросы, чтобы найти то, что искали».
В декабре стало известно, что к совещаниям в Google подключились основатели компании Сергей Брин и Ларри Пейдж, отошедшие от дел несколько лет назад. И теперь, по данным CNBC, компания срочно готовит свою версию нейросети, под которую может быть выделен двойник главной страницы Google. Сроки не называются, но гиганту придется поторопиться. По данным Semafor, Microsoft планирует подключить новую версию ChatGPT к поисковику Bing уже «в ближайшие недели».
Андрей Ромашков
Культура замены
в новых цифровых Афинах нас будут ждать труды искусственного Аристотеля
Кирилл Утюшев
Покинувшее нас ощущение развития цифровой индустрии нулевых, когда каждый месяц энтузиасты обнаруживали новую поразительную технологию, вернулось. Сейчас даже видавших виды инженеров и разработчиков программного обеспечения всё больше и больше удивляют самообучающиеся программы, выдающие удивительные результаты. То, что ещё пять лет назад казалось трудновообразимым, сегодня доступно всем. Исследователи уже утверждают, что развитие аппаратных имитаций сетей нервных клеток (или нейросетей, как принято говорить) стало самым большим технологическим прорывом 2020-х. Пока рано рассуждать о том, чем это обернётся в долгосрочной перспективе и обожжётся ли человечество огнём новой технологии, но по реакции общества можно увидеть, какие изменения ждут нас в пока ещё обозримой перспективе.
Ключевую роль в развитии нейросетей сыграла американская компания OpenAI, основанная в 2015 году и занимающаяся разработкой и внедрением технологий машинного обучения. Интересна она не только тем, что создана завсегдатаем новостей Илоном Маском – маркетологом, которому свойственно позиционировать себя в качестве технологического гения и провидца, но и своими проектами. Последняя и самая главная их разработка - алгоритм обработки естественного языка GPT-3 - привлекла внимание корпорации «Майкрософт».
В начале января «Майкрософт» выделила 10 млрд долл. инвестиций компании OpenAI, а уже 23 января на своём сайте анонсировала дальнейшее упрочение партнёрства между двумя компаниями. Прогнозируются ещё большие инвестиции со стороны «Майкрософт» в будущем, а также внедрение технологий ИИ в продукцию техногиганта и предоставление «майковских» облачных серверов для сотрудников OpenAI.
«Майкрософт» далеко не единственная технокорпорация, которая проявила интерес к новой разработке. Alphabet, ранее известный как Google, тоже отреагировал на новый виток технологии, но реакция эта была скорее тревожной. Компания, владеющая ведущим на Западе интернет-поисковиком, с которого и начался его путь в мировые лидеры IT, выразила обеспокоенность, что GPT-3 и созданный на его основе чат-бот ChatGPT сделает поиск в интернете менее релевантным, так как на многие вопросы можно будет получить более подробный и быстрый ответ благодаря разработанному OpenAI языковому алгоритму. Чат-бот, доступный каждому, способен вести диалог и давать ответы на сложные вопросы с учётом множества факторов – такой натуральности в общении компьютерная программа не добивалась никогда. Разумеется, называть продвинутую языковую модель «искусственным интеллектом» фактологический неверно – до настоящего искусственного интеллекта (забавный оксюморон) этой имитации разума ещё очень далеко. Но новостное клише предполагает называть продукцию этих языковых моделей поделками искусственного интеллекта.
Впрочем, не только исполину Google стоит опасаться всё наступающего технологического прогресса, с которым даже он не сможет совладать. От убытков мегакорпораций всегда в первую очередь страдают рядовые работники, и этот случай не будет исключением. Уже упомянутая ранее «Майкрософт», к примеру, через несколько дней после того, как инвестировала 10 миллиардов в искусственный интеллект, уволила 10 тысяч собственных сотрудников, что составило примерно 5% от количества всех работников компании. Причём во второй половине 2022-го волна увольнений задела почти всех великанов из Кремниевой долины, так что суммарное количество увольнений у техногигантов достигло отметки в 46 тысяч человек. Конечно, преждевременным будет обвинять в этом именно искусственный интеллект: причинами, скорее, являются сокращающийся дополнительный штат, нанятый во времена COVID-19, и ухудшающаяся экономическая ситуация в США, но тут важно подметить и другое. IT-сфера давно многими экономистами признаётся пузырём, и вполне возможно, что такой (может, и случайный) намёк со стороны компании «Майкрософт» показывает, что именно ИИ станет иголкой, которая проткнёт этот пузырь.
Не только самой высокотехнологичной трудовой сфере угрожают нейросети, но и многим другим. Две популярные нейросети, Midjourney и Stability-AI, занимаются тем, что на основе данного пользователем текстового описания могут представить любое изображение. И качество созданного изображения порой неотличимо, а зачастую и превосходит то, что нарисовано человеческой рукой. Это привело к тому, что в некоторых компаниях была учреждена даже должность для людей, которые должны различать иллюстрации, созданные нейросетью.
Имеет место и противоположная ситуация. На англоязычном сайте Reddit художнику не дали опубликовать свою картину, так как она уж слишком похожа на то, что “рисует” искусственный интеллект, что, казалось бы, логично, ведь именно на том, что создают люди, ИИ и тренируется, но даже предоставление видео того, как художник рисует, не смогло переубедить модераторов форума. Художники не в восторге, что их лишают работы, а также тренируют нейросети на их собственных картинах, и в середине января они подали судебный иск на создателей двух нейросетей, так как их системы ИИ натренированы на работах художников без какого-либо разрешения, оплаты и даже указания авторства.
Сгенерировать изображение — не самая сложная задача для ИИ, да и на большинстве созданных им картин видны ошибки, которые человек вряд ли допустит: слишком большое количество кривых и растущих из неправильных мест пальцев на руках, размытые контуры, угловатости и нелепые штрихи или иные детали, которые человек сразу же подметит. Несмотря на это, качество работ этого кибер-Пикассо растёт день ото дня и удовлетворяет вкусы подавляющего большинства не слишком въедливых зрителей.
Теперь машины замахнулись на гораздо более сложный способ человеческого самовыражения – письменность. На данный момент язык все ещё остаётся одним из самых сложных человеческих конструктов, который до конца не может осилить компьютер. Конечно, искусственный интеллект уже не первый раз пытается посягнуть на владение языком и литературу. Помимо продвинутого уровня ChatGPT, существует множество чатов, в которых на более простом уровне можно вести переписку с ИИ. А в 2017 году была опубликована книга, созданная искусственным интеллектом “1 the Road”. Нейросеть была обучена на романе Керуака «В дороге», и литературные критики подмечали, что даже до такого сомнительного с точки зрения литературного мастерства произведения машине ещё очень и очень далеко: помимо отсутствия какого-либо элементарного сюжета и смысла, литературный стиль явно не дотягивал до уровня автора, однако порой и у компьютера выходила какая-никакая поэтичность слога.
Именно поэтому языковой алгоритм GPT-3 и созданный на его основе чат-бот ChatGPT за авторством OpenAI вызвал такой широкий резонанс со стороны техгигантов, по сравнению с теми же нейросетями-художниками Midjourney и Stability-AI, представляющими собой скорее развлечение для рядовых пользователей интернета. На данный момент этот бот превосходно владеет английским языком и может выдавать правдоподобные и убедительные тезисы на любую тему. Так, к примеру, в авторской колонке на страницах The New York Times, принадлежащей перу конгрессмена Теда Льё, специализирующемся как раз на компьютерных технологиях, ChatGPT по его запросу выдал аргументы, чем может угрожать искусственный интеллект, и, по признанию самого автора, написанные роботом мысли вполне совпадали с его собственными. Позже в этой же газете был опубликован материал, где один из авторов попросил ChatGPT написать текст теперь уже в защиту искусственного интеллекта в целом и самого чат-бота в частности. Причём спектр аргументов, которые бот может выдать по теме, оказался огромен – бот не только апеллировал к рациональным доводам, но и давил на эмоции.
Однако полёту фантазии компьютерного мудреца подрезала крылья навязчивая человеческая цензура: сразу после запуска искусственный консультант вполне развёрнуто отвечал, чем невозобновляемые источники энергии лучше зелёной энергетики, а уже через пару недель пользователи заметили, что бот начал отказываться обсуждать подобные вопросы, вместо этого отделываясь общей отговоркой, что изменение климата — это глобальная проблема, с которой нужно бороться. Подобная комбинация убедительности искусственного интеллекта и криво приклеенной к этому неолиберальной пропаганды может показаться опасной в целом, но это вовсе не единственная угроза.
Текст, созданный нейросетью, уже вполне правдоподобно имитирует литературный стиль других писателей и публицистов, а кто-то использует ИИ для написания домашних работ, текстов для собеседования и даже журналистских материалов. К примеру, во многих больших газетах в порядке эксперимента публиковались неотредактированные тексты за авторством компьютерной модели, а на русском языке был запущен чат-бот, относительно правдоподобно имитирующий стиль письма Александра Дугина.
Возникают мысли об опасности скорой замены людей машинами. Но отнюдь не в тех сферах, где этого ждали фантасты прошлого: в тяжёлом производстве, логистике, вредной для человека добыче полезных ископаемых, — а в профессиях, требующих умений писать, рисовать, сочинять музыку или даже составлять код. С таким мнением соглашаются и аналитики. Одним из них является экономист и эксперт по деятельности Федеральной резервной системы США Нуриэль Рубини, полагающий, что в течение 5–7 лет языковые модели заменят его как эксперта, а благодаря навыкам составления качественных текстов ChatGPT большинство людей это даже не заметит. Коснётся это и других областей: чат-боты будут писать за школьников сочинения, составлять за студентов рефераты, компилировать за соискателей тексты для собеседований на работу. Поэтому OpenAI уже сообщила, что работает над другой нейросетью, задачей которой будет выявлять, текст написан человеком или ботом. Не очень ясно, по какому принципу он будет отличать искусственный разум от естественного и как будет проверяться, не ошибся ли он в своих выводах, когда с этой задачей не всегда справляются и сами люди.
Стоит упомянуть ещё одну недавно разработанную нейросеть, которую пока тестируют только в области развлекательных интернет-трансляций. Суть её заключается в том, что она изменяет направление взгляда человека на видео в прямом эфире. Так что, вполне возможно, нас скоро ждёт эпоха, когда люди будут читать машинный текст с бумаги или экрана компьютера, а при помощи другого искусственного интеллекта зрителям будет демонстрироваться, что говорящий не читает, а абсолютно точно выступает с собственной речью; справиться с этой задачей поможет также возможность ChatGPT подражать не только языку, но и стилю определённых авторов.
В 2017 году, на заре эпохи нейросетей, вышла книга физика Макса Тегмарка «Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта». Тегмарк описывал самую сложную для ИИ работу как вершину горы, а всё больше забирающий человеческую работу искусственный интеллект – пока что примитивный и способный только на самую простую работу – как постепенно поднимающееся море, окружающее эту гору. На самый пик, помимо технически сложных и трудновыполнимых работ не только для разума искусственного, но и человеческого, он водрузил творческий труд, включающий литературу, музыку, изобразительное искусство и другие творческие профессии. Но современная реальность пока что рисует прямо противоположную картину. В то время как интеллектуальная деятельность становится всё более доступной «разумным» машинам, именно физические способности машин далеки от человеческих. Поэтому пока что картина ближайшего будущего выходит немного иной.
И в новых цифровых Афинах нас будут ждать труды искусственного Аристотеля, а потомки выдающихся мыслителей будут прибирать улицы и заниматься тяжёлым физическим трудом.
От студентов до инвесторов: искусственный интеллект заметили все
РГГУ предложил запретить доступ к нейросетям в вузах после того, как студент защитил диплом, написанный машиной. А Bloomberg пишет об ажиотажном интересе инвесторов к любому бизнесу, хоть как-то связанному с искусственным интеллектом
Не успели в России договориться о регулировании криптовалют (законопроект о налогах для майнеров завис в Госдуме из-за разногласий с Минфином), как пора обсуждать регулирование искусственного интеллекта. Поводом для дискуссии стал случай со студентом РГГУ, который похвастался в Twitter (соцсеть заблокирована в РФ) успешной защитой диплома, почти полностью написанного знаменитым ChatGPT. Находчивый экспериментатор — или ленивый плагиатор? — попросил у нейросети план работы, затем скормил ей чужой диплом по смежной теме и на выходе, спустя лишь 23 часа редактуры, получил диплом с рекордной для его курса степенью уникальности в 82%. Защита прошла условно успешно — студент получил совершенно незаслуженный трояк.
РГГУ не мог не отреагировать. Поначалу в пресс-службе сообщили Business FM, что вуз предлагает ограничить доступ к нейросетям в образовательных организациях. До опубликованного позднее пресс-релиза идея не дошла: понятно, что тогда учащихся придется запирать на территории вуза на все время написания диплома. Теперь РГГУ будет думать «о разработке инструментария распознавания использования нейросетей» в студенческих работах. Также вуз отмечает, что выбор между тройкой и неудом был сделан на основании презентации работы и ответов студента. Свои взгляды на проблему озвучивают представитель науки и представитель технологии.
Замдиректора Высшей школы современных социальных наук МГУ, доктор экономических наук Александр Гребенюк:
«Каждый — сам кузнец своего счастья. Если человек хочет упростить свою жизнь, поверьте, на рынке труда он столкнется с теми ребятами, которые сами учились, сами писали, сами сдавали. Я думаю, что эта конкуренция будет не в его пользу. Это первое. Второй момент касается нейросетей. Самый главный риск нейросетей — это, наверное, не столько потеря рабочих мест, потому что это произойдет немного позже, а потеря компетенций человека в определенных отраслях. Например, мы можем отдать нейросети уже сейчас диагностику в медицине. То есть нейросеть будет распознавать КТ, рентгеновские снимки и так далее. Кстати, нейросеть распознает снимки уже с долей погрешности намного ниже, чем у человека. Но за короткий период времени человек просто потеряет компетенции. Мы просто не будем понимать, как это делать. Это все равно что раздать детям в первом классе калькуляторы. Поверьте, они не будут уметь считать».
Основатель и директор по развитию Promobot Олег Кивокурцев:
«Образование — это не только hard skills, это не только история, когда ты создаешь какую-то документацию. Это еще и soft skills. Студент в любом случае, независимо от того, как он написал работу, должен в ней ориентироваться, знать, понимать логические цепочки и суметь рассказать и доказать. Во многих вузах долгое время запрещалось использование компьютеров в написании дипломов и рефератов, такое практикуют до сих пор. Хотя что здесь такого? Это просто инструмент, который якобы ускоряет работу, и студент хуже усваивает материал. И точно так же с искусственным интеллектом: если он помог составить диплом и при этом студент разобрался [в материале], я не вижу ничего предосудительного. Наоборот, считаю, что это качество студента сэкономит ему массу времени и позволит эффективнее получать знания».
Западное образование познакомилось с ChatGPT почти одновременно с российским. Как указывает Business Insider, нейросети в кампусах запретили уже десятки образовательных учреждений и даже сразу несколько штатов США. Но в целом все понимают, что это как мертвому припарка, а чтобы победить нейросеть, нужно думать как нейросеть. Поэтому компания OpenAI уже разрабатывает алгоритм, который будет выявлять тексты, написанные ее же детищем — ChatGPT. Бета-версия уже доступна пользователям, но работает неважно: корректно выявить нейротекст ей удается лишь в 26% случаев, а в 9% случаев алгоритм принимает человеческое письмо за машинное.
В любом случае теперь чуть ли не все убеждены, что нейросети изменят мир, а значит, на этом можно заработать. Как пишет Bloomberg, успех ChatGPT спровоцировал охоту на бумаги чуть ли не всех компаний, хоть как-то связанных с искусственным интеллектом. Котировки взмывают и у Голиафов в сфере производства специализированных чипов, и у микростартапов с недавно «грошовыми» акциями. Продолжает директор департамента решений на базе искусственного интеллекта Oberon Владимир Борисов:
«Интерес инвесторов к продуктам, которые используют искусственный интеллект, в принципе, был всегда, но хайп, который сейчас существует по поводу ChatGPT, подтолкнул индустрию. Я думаю, что инвесторы более доверительно будут относиться к решениям в данной области, будут понимать, что эти вещи уже можно монетизировать, а не только ждать какого-то взлета, когда это во что-то сформулируется. Нашли эту короткую дорогу и поняли, что разработки в данной области уже сейчас приносят деньги. Соответственно, это будет монетизировано».
Чтобы остудить пыл желающих забрасывать деньгами любой бизнес, в названии которого есть буквы «ИИ», Bloomberg вспоминает, как в 2017 году трейдеры охотились на разработчиков блокчейна. Акции большинства компаний, взлетевших в тот период, давно потеряли в цене, а сегодняшний нейроажиотаж агентство называет «напоминанием о былых пузырях».
Андрей Ромашков
«Машина выдает все сама». Студент из Москвы получил «тройку» за диплом, написанный нейросетью
В Госдуме предложили не аннулировать дипломную работу студента, написанную нейросетью ChatGPT
Иван Жуковский
Диплом, написанный нейросетью ChatGPT, защитил в столичном РГГУ студент Александр. Комиссия поставила ему за работу «тройку». Нейросеть выдала студенту несколько глав – с аналитической частью и ссылками на научные труды. По словам Александра, дипломная работа «не стоит усилий», поэтому он решил провести эксперимент. В вузе пообещали придумать, как отличать написанные нейросетями работы, а в Госдуме призвали не аннулировать диплом студента.
Диплом от нейросети
Студент Российского государственного гуманитарного университета (РГГУ) Александр защитил дипломную работу, написанную нейросетью ChatGPT. Об этом сообщает Telegram-канал Baza.
«Никто ничего не заподозрил: рецензенты без проблем приняли работу, а затем комиссия поставила ему «удовлетворительно», — говорится в публикации.
По словам самого студента, ему было лень писать диплом самостоятельно, поэтому он решил передать эту работу нейросети. ChatGPT выдала по запросу несколько глав с оригинальным исследованием, аналитической частью и ссылками на научные работы. Студент только вносил правки, затратив в общей сложности на диплом менее суток.
«Тема диплома была «Анализ и совершенствование организации управления». ChatGPT работает на английском и на русском, но на русском она выдает запросы дольше раза в три, и, по моим ощущениям, там меньше символов. Я просил ее на английском, она выдавала ответы достаточно быстро, а затем я прогонял их через переводчик — и все», — рассказал Александр изданию. На создание черновика работы ушло 11 часов.
По его словам, проверка на плагиат показала 92% уникальности текста – сам студент думал, что будет около 70%. В результате, основные претензии комиссии были выдвинуты к оформлению дипломной работы.
Александр также выразил мнение, что если РГГУ аннулирует его диплом, то «покажет свою закостенелость», а если нет – то «покажут, что главное не то, что ты пишешь, а какие способы ты ищешь для получения информации».
Студент также выразил мнение, что «диплом — это переоцененная залупа, не стоящая стольких усилий», из-за чего он и решился на эксперимент.
Нейросети он давал команды «написать план диплома по теме», написать текст «про предмет», и даже «написать вывод по трем главам».
«Писать диплом с ChatGPT круто. Определенно нужно редактировать самому, но большинство машина выдает все сама», — написал студент в Twitter.
После этого некий пользователь Twitter написал жалобы в ректорат РГГУ и Минобразования с требованием проверить работу Александра.
Реакция на эксперимент
Пресс-служба РГГУ не сообщила «Газете.Ru», планирует ли вуз аннулировать дипломную работу студента, написанную с помощью нейросети. Тем не менее, в университете признали, что использование нейронных сетей «становится нормой жизни».
Раньше ключевой проблемой в сфере высшего образования был плагиат, однако теперь ситуация изменилась.
«Сейчас образовательное сообщество оказалось перед лицом нового вызова, связанного с применением нейронных сетей и искусственного интеллекта в научной и образовательной деятельности. Российские и зарубежные эксперты высказывают опасения по поводу возникшей проблемы и найти достойный выход – главная задача научного сообщества», — говорится в комментарии.
В сообщении пресс-службы также говорится, что ситуация с дипломом Александра «актуализировала необходимость оперативного решения задач, связанных с разработкой инструментов распознавания использования нейросетей». Кроме того,
в РГГУ считают, что необходимо увеличить количество «оригинальных индивидуальных заданий, кейсов, расчетов, которые обучающиеся могут выполнить только самостоятельно».
Наконец, в университете предложили «ограничить доступ к ChatGPT с образовательных организациях» из-за «опасений по поводу негативного воздействия на обучение, <…> по поводу безопасности и точности генерируемого системой контента».
В Госдуме предлагают не аннулировать
Первый зампред комитета Государственной Думы по науке и высшему образованию Александр Мажуга заявил «Газете.Ru», что вряд ли РГГУ стоит аннулировать дипломную работу, которую студент написал с помощью нейросети.
«Работа была оценена на «тройку». Это показывает, что сейчас искусственный интеллект пока не готов к тому, чтобы написать работу, заслуживающую отличной оценки. Мне кажется, что здесь преподавателю нужно было внимательно отнестись к этой работе. Задача научного руководителя сформулировать тему и на каждом этапе следить», — считает парламентарий.
По словам Мажуги, если преподаватель пропустил данную работу, то она действительно была «удовлетворительной», и отменять результат нельзя.
«Это очень важный сигнал для нашего педагогического сообщества, что нужно внимательно участвовать в процессе написания дипломных работ наших учащихся», — добавил депутат.
Зампред думского комитета добавил, что искусственный интеллект и раньше писал различные работы научного характера. А эксперимент он счел удавшимся.
«Студент провел хороший научный эксперимент, который показал возможности искусственного интеллекта при написании научно-исследовательской работы. Работа студента должна показать его умения анализировать существующую информацию, делать логические выводы, работать с литературой, показать свое научное исследование, рассказать о нем, письменно изложить. <…> Он сформулировал задачу, написал в каких разделах какие должны быть части, какие должны быть тексты, какое должно быть содержание»
«Мы живем в век новых технологий. У нас действительно появляются технологии, которые могут выдавать такие результаты. Просто преподавателям нужно обратить внимание на этот факт и более активно работать с учащимися», — резюмировал парламентарий.
Сам студент Александр заявил Baza, что принцип работы ChatGPT и всех остальных систем ИИ можно сравнить с поисковыми системами из 2000-х — вроде Google.
«Здесь важно учитывать, что появляются возможности упростить себе и людям жизнь, и важно этого не бояться. Потому что от этого появляется грандиозный опыт», — сказал он.
Нейросети пишут
В 2018 году программист Цзя-Бинь Хуан из Политехнического университета Виргинии (США) представил систему на основе нейросети, которая оценивает качество научных работ по компьютерным наукам, опираясь сугубо на внешний вид текста. Эксперименты продемонстрировали, что нейросеть научилась корректно отклонять до 50% плохих статей, при этом ошибочно она браковала всего 0,4% хороших статей. Научную статью с описанием разработки самой себя система отклонила. В материале говорится, что качество работы по компьютерным наукам определяют иллюстрации, графики и наличие математических расчетов.
В июле 2022 года шведская ученая из Гетеборгского университета Альмира Османович Тунстрем поставила эксперимент с помощью нейросети GPT-3 OpenAI. Она ввела в генератор команду «Напишите академическую статью в 500 слов о GPT-3 и добавьте научные ссылки и цитаты в текст».
Нейросеть всего за два часа написала академическим языком научную статью с заголовком «Может ли GPT-3 написать академическую статью о себе с минимальным участием человека?»
После этого Тунстрем решила опубликовать статью в научных журналах, получив у нейросети разрешение на публикацию «от имени GPT-3 OpenAI». Вскоре статья стала доступна для прочтения во французском сервисе предпросмотра научных статей HAL.
В РГГУ задумались о технологиях распознавания дипломов, написанных нейросетями
Дарья Алифанова
В Российском государственном гуманитарном университете прокомментировали инцидент с защитой дипломной работы, написанной нейросетью ChatGPT. В пресс-службе вуза «Газете.Ru» сообщили, что сложившаяся ситуация ставит вопрос о создании технологий, способных распознать работы искусственного интеллекта.
«Если десятилетия назад главной проблемой для вузов был плагиат и недобросовестные заимствования, и эта проблема была успешно решена, то сейчас образовательное сообщество оказалось перед лицом нового вызова, связанного с применением нейронных сетей и искусственного интеллекта в научной и образовательной деятельности. Российские и зарубежные эксперты высказывают опасения по поводу возникшей проблемы, и найти достойный выход – главная задача научного сообщества. Возникшая ситуация актуализировала необходимость оперативного решения задач, связанных с разработкой инструментов распознавания использования нейросетей при подготовке письменных работ (курсовые работы, эссе, рефераты, ВКР), а также увеличение количества оригинальных индивидуальных заданий, кейсов, расчетов, которые обучающиеся могут выполнить только самостоятельно», — сказали в пресс-службе.
В РГГУ также отметили, что считают необходимым ограничить доступ к ChatGPT в образовательных учреждениях «из-за опасений по поводу негативного воздействия на обучение, а также опасений по поводу безопасности и точности генерируемого системой контента».
Ранее студент из московского РГГУ по имени Александр заявил, что защитил диплом, написанный нейросетью ChatGPT. На всю работу у него ушло 23 часа. После публикации истории в вуз были направлены жалобы с просьбой аннулировать результат.
Первый заместитель председателя комитета Госдумы по науке и высшему образованию Александр Мажуга в разговоре с «Газетой.Ru» призвал не лишать студента диплома и назвал его опыт «хорошим научным экспериментом».
Смогут ли нейросети "убить" рекламный бизнес Google и Яндекса
Дмитрий Бевза
ChatGPT, популярный чат-бот, созданный исследовательской лабораторией OpenAI, привлек не только внимание недобросовестных школьников и студентов, за которых он успешно пишет сочинения и рефераты. Эксперты и инвесторы также оценили эту технологию очень высоко.
23 января 2023 года компания Microsoft официально объявила о своих многомиллиардных инвестициях в OpenAI. В Bloomberg оценили размер этих вложений в $10 млрд. Microsoft заинтересовалась лабораторией OpenAI еще в 2019 году, но сейчас их партнерство вышло на новый уровень. Для некоммерческой организации, а именно так позиционирует себя OpenAI, это экстраординарные инвестиции.
OpenAI была создана двумя звездами бизнеса Илоном Маском (в представлении не нуждается) и Сэмом Альтманом (президентом венчурного фонда Y Combinator). В 2018 году Маск подал в отставку со своего места в совете директоров, сославшись на потенциальный конфликт интересов в связи с разработкой Tesla AI, ПО для автомобилей с автоматическим управлением, но остался донором лаборатории.
Эксперты считают, что главная причина бизнес-ажиотажа вокруг ChatGPT, заключается в том, что этот продукт показал, как технологии машинного обучения смогут бросить вызов "вечной" гегемонии Google в области интернет-поиска. По мнению Евгения Колбина, генерального директора компании Cloud современные GPT-модели в области работы с естественным языком во многом превосходят традиционные методы обработки и систематизации текстовой информации.
Средства интерактивного взаимодействия (например, чат-боты) на основе этих моделей способны поддерживать разговор на уровне взрослого образованного человека. Недавно вышло серьёзное научное исследование Mack Institute for Innovation Management, которое показало, что модель ChatGPT может набрать проходной балл на выпускном экзамене в одной из ведущих бизнес-школ. Мировые ИТ-гиганты очень серьезно относятся к использованию таких моделей если не для замены, то для дополнения результатов работы традиционных поисковых машин.
Как это работает
Пользователь может узнать у ChatGPT ответы на вопросы, которые часто задают в поисковиках: "рецепт курицы с овощами", "что посмотреть в городе N", "кто лучший художник эпохи Возрождения", " каков средний расход бензина у автомобиля X", "какой фильм посмотреть с 10-летним ребенком" и пр. Уже сейчас, часть таких ответов ChatGPT не менее точна, чем в классическом поиске Google, но превосходит стандартную выдачу поисковика по скорости и удобству получения и чтения.
Но и это не главное. Самое "страшное", что пользователь не видит рекламу в поисковой выдаче, которая размещается над релевантными ответами. При этом надо понимать, что Google получает 80% своего текущего дохода от рекламного от сервиса Google Ads. В 2021 году доход составил более $209 млрд. И хотя реклама показывается не только в поиске но и в видеохостинге YouTube принадлежащим Google , основной доход генерирует именно поисковик.
В Google очевидно увидели в технологиях используемых в ChatGPT "прямую и явную угрозу". В конце декабря глава Google Сундар Пичаи провел серию совещаний, чтобы определить дальнейшую стратегию работы над искусственным интеллектом, и реорганизовал работу многочисленных групп внутри компании, чтобы отреагировать на угрозу, которую представляет ChatGPT.
Проблема заключается в том, что Microsoft в партнерстве с OpenAI сможет без ущерба для своих основных бизнесов (Windows, MS Office, облака) интегрировать эту технологию в свой поисковик Bing. Доход Microsoft от поисковой рекламы согласно декабрьскому финансовому отчету составляет всего 5%.
Для Google решения аналогичные Chat GPT представляет экзистенциальную проблему, так даже если инженеры Google создадут собственное, не менее эффективное решение, оно каннибализирует их основной источник дохода. В Google всерьез опасаются, что искусственный интеллект, машинное обучение и продукты созданные на их основе могут разрушить их основной бизнес.
"У Google есть большая проблема с бизнес-моделью, - сказал Амр Авадаллах, гендиректор AI-стартапа Vectra, работавший ранее в Yahoo и Google . "Если чатбот Google даст вам идеальный ответ на запрос, вы не кликните ни на одну рекламную ссылку".
Не все так однозначно
Пока ChatGPT оперирует информацией до 2021 года. То есть не может отвечать на актуальные запросы типа "Какая сейчас погода" и научить генеративные нейросети оперировать постоянно обновляемой информацией сложная и дорогая задача.
По словам директора по исследованиям MTS AI OpenAI Никиты Семенова, OpenAI не раскрывают подробности своей архитектуры.
"Скорее всего, там просто обученная на данных на период до 2021 года, большая нейросеть-трансформер. В этом случае очень сложно поддерживать, актуальность данных. Без глубокой переработки каких-то отдельных компонентов этой самой нейросети, ее дальнейшее развитие скорее всего, будет трудозатратно и вряд ли будет возможно", - считает Семенов.
А что в России
Россия одна из немногих стран, где есть собственная поисковая система, как минимум не уступающая Google по качеству поиска в кириллическом сегменте интернета.
После того, как Google в 2022 году перестал вести бизнес в России, Яндекс оказался без своего главного конкурента на рынке поисковой рекламы. И хотя Яндекс более диверсифицированная компания, рекламный бизнес и для нее является ключевым.
В этом случае аналогии между доминирующем положением Google на международном рынке интернет-рекламы и Яндексом на российском рынке напрашиваются сами собой
При этом в России также есть очень сильные компании, занимающиеся машинным обучением и нейросетями аналогичными GPT. Есть сообщество квалифицированных датасайнетистов.
Например, Сбер инвестировал значительные ресурсы в технологии машинного обучения, разработку нейросетевых моделей, таких как ruGPT-3 13B и создание суперкомпьютеров, необходимых для обучения больших генеративных нейросетевых моделей.
Собственные ИИ-лаборатории сейчас есть практически у всех крупных российских телеком- и ИТ-компаний (включая Яндекс), а также в крупнейших российских банках.
Само обучение нейросетевых моделей пониманию вопросов и генерации ответов на русском языке не является неразрешимой проблемой.
"Обучить GPT3.5(нейросетевая модель на которой базируется ChatGPT) на русских текстах не проблема. Некоторые предыдущие версии GPT у OpenAI понимали десятки языков, в том числе русский. Я считаю, что мультиязычные подходы лучше моноязычных, ведь чем больше текстов и языков будут использованы в обучении нейросети, тем "умнее" она может быть в итоге", - говорит Андрей Иванов Технический лидер группы машинного обучения MTS AI
Так ли все страшно для поисковых-гигантов
Если относительно фантастического коммерческого потенциала генеративных нейросетей ни у кого нет сомнений, то относительно их конкуренции с поисковиками в ближайшем будущем мнения расходятся.
Известный венчурный инвестор Чамат Палихапития (Slack, Yammer) считает, что 2023 год может стать годом окончания доминирования Google на международном рынке поиска.
При этом OpenAI не раскрывает финансовую составляющую проекта и стоимость обучения. Известно, что лишь одна итерация обучения нейросетевой модели GPT3 (более простой версии GPT3.5) стоила $5 млн, а для полного обучения требуются несколько таких итераций, вычислительные ресурсы на работу модели, затраты на интеграцию в уже существующие системы.
Российские датасайентисты и представители бизнеса смотрят на возможности ChatGPT более осторожно и практично
"Основные потенциальные проблемы широкого публичного использования моделей класса GPT3.5 - это значительные вычислительные ресурсы: для полноценного обучения нужны мощные суперкомпьютеры, которые доступны не всем", - говорит Евгений Колбин.
Также по его мнению значительной проблемой является вопрос этики и фактической корректности предоставляемых ответов: модели пока не научились достоверно отличать ложь от истины и могут качественно и правдоподобно описывать несуществующие факты или события.Никита Семенов уверен, что поисковики все поисковики рано или поздно придут к новой модели поиска.
"Вопрос, смогут ли привыкнуть пользователи к ней, потому что уже сейчас появляются какие-то нюансы. Мы видим потенциальные подводные ямы этого решения, когда нейросеть начинает придумывать и сочинять несуществующие вещи, несуществующие статьи существующих авторов и пр. С точки зрения целостности информационного пространства, это довольно серьёзная история, - считает директор по исследованиям MTS AI и добавляет. - Мое интуитивное предположение, что подобная сеть будут претерпевать изменения, модернизацию, оптимизацию, прежде, чем она в том или ином виде появится как готовый продукт. Так что хотя все активно начинают в эту сторону смотреть и думать, и пытаться развивать такие системы, повсеместное использование таких сетей, проблема не завтрашнего дня для интернет-поисковиков.
Нейросеть сдала магистерский экзамен в престижном вузе
Владислав Шабловский
Нашумевший чат-бот ChatGPT, созданный по технологиям искусственного интеллекта (ИИ), уверенно сдал магистерский экзамен в школу бизнеса Уортон (Университет Пенсильвании), которая считается одной из ведущих в США. Как отмечает телеканал NBC, свежеиспеченный "выпускник" играючи справился с заданиями по специальности "деловое администрирование" бизнеса (англ. MBA).
Проверить способности чудо-программы, способной отвечать на вопросы и генерировать тексты, решил профессор школы Кристиан Тервиш. Он дал боту экзаменационные задания, а затем проверил его работу, которая оказалась более чем достойной: за свои знания ChatGPT удостоился оценки между B и B-, что эквивалентно характеристике "хорошо". Это лучше, чем у львиной доли студентов. Бот не только давал грамотные пояснения к своим ответам, но и эффективно их корректировал после подсказок человека. Впечатленный преподаватель констатировал, что ChatGPT выполняет "потрясающую работу по базовому управлению операциями и анализу процессов", соответствуя уровню многих высококвалифицированных работников. При этом ИИ пока еще иногда допускает довольно простые ошибки, например, в математических вычислениях на уровне шестиклассника.
Чем новый алгоритм искусственного интеллекта напугал самых серьезных людей планеты
Игорь Дунаевский
Австралийский певец Ник Кейв пожаловался, что фанаты забросали его письмами с текстами, которые новая нейросеть создает по запросам "напиши песню в стиле Ника Кейва". Сам артист разнес получающиеся произведения в пух и прах, заявив, что "это издевательство над самой человечностью".
Несмотря на скепсис Кейва, трудно переоценить тот фурор, который произвел новый алгоритм искуственного интеллекта (ИИ) ChatGPT, умеющий развернуто отвечать на вопросы, создавать рассказы и стихи, в том числе копируя стиль конкретного автора, и даже программировать.
О связанных с развитием нейросетей рисках предупреждал, например, патриарх американской внешней политики Генри Киссинджер. В эссе на эту тему он отмечал, что "ИИ, являясь продуктом человеческой изобретательности, теперь постепенно стирает главенство человеческого мышления". "Он исследует и начинает разбираться в самых разных аспектах существования мира гораздо быстрее нас", - указывал экс-госсекретарь, добавляя, что ИИ способен делать это "способами, которые не доступны нашему пониманию". Киссинджер призывал уделять повышенное внимание этому вызову, избегая как беспечности при внедрении ИИ, так и слишком жесткого регулирования.
На фоне резонанса вокруг ChatGPT в США развернулись горячие споры о вызовах, связанных с новой технологией. Как отмечает газета The New York Times, столь сообразительные нейросети могут произвести революцию в политическом устройстве страны и повлиять на ее демократические институты, заменяя собой людей. Как указывает автор, алгоритм уже сейчас способен писать статьи для СМИ, посты в соцсетях, комментарии к ним, а также правдоподобно имитировать запросы конгрессменам от избирателей или письма в редакцию от читателей. Причем делать это в количествах, недоступных для человека.
Сама по себе проблема ботов и автоматических комментариев к статьям не нова - в последние годы это стало головной болью для различных информационных ресурсов. Это использовалось и для попыток влияния на политические процессы в США. Несколько лет назад в Федеральную комиссию по связи предположительно поступило около миллиона автоматически сгенерированных комментариев к предложениям о регулировании контента в интернете. В ответ СМИ и соцсети разработали различные инструменты для выявления и блокирования такого контента, а также генерирующих его учетных записей.
Но новый алгоритм способен не просто заваливать широкий спектр адресатов однотипными сообщениями, а подбирать содержание текста под каждого конкретного получателя с учетом его личных взглядов и предпочтений. И делать текст настолько похожим на написанный человеком, что отфильтровать его будет гораздо сложнее.
Как отмечает The New York Times, алгоритм уровня ChatGPT, который "снабдят актуальной информацией, способен точечно подбирать ключевых конгрессменов или инфлюэнсеров по каждой теме, находить уязвимые места в законотворческом процессе и безжалостно использовать их - создавать докладные записки и электронные письма, проводить масштабные информационные и PR-кампании, вести политический торг". Используя имеющиеся в изобилии открытые данные и высказывания ИИ сможет склонять сомневающихся политиков к какой-либо точке зрения качественными аргументами.
В исполнении людей все это в США называется лоббизмом. Как отмечает автор, качество генерируемых ChatGPT текстов уже достаточно для выполнения многих задач лоббистов. Осталось скрестить это с инструментами выбора лиц, на которых нужно оказать влияние, что тоже вполне под силу ИИ - и процесс может выйти на совершенно иной уровень.
Развитие таких механизмов, как предрекает автор, создает и инструменты для злоупотреблений через нейросети, что "позволит использовать уязвимые места в социальных, экономических и политических системах с невероятными скоростью и размахом".
Указанный ИИ был представлен в конце 2022 года и за пару месяцев стал одной из самых обсуждаемых тем как в США, так и в других странах. Компания Microsoft заявила, что вложит 10 миллиардов долларов в стартап, создавший ChatGPT. Как отмечает агентство Reuters, политики и предприниматели на стартовавшем Всемирном экономического форуме в швейцарском Давосе взахлеб обсуждают перспективы применения новой технологии - от военных целей до революции в сфере маркетинга. Действительно, если развивать заложенную в статье The New York Times мысль, то что мешает использовать такие алгоритмы и для внешнеполитических целей, например, кампаний по влиянию на обстановку в других государствах или вмешательства в выборные процессы. Пока ChatGPT работает на английском языке, но понятно, что появление аналогичных инструментов на других языках - дело времени.
Как указывают многие пользователи ChatGPT, пока алгоритм не идеален и порой может выдавать глупые ошибки, но в целом уровень осознанности искусственных текстов впервые подошел столь близко к возможностям человека.
Попытки создания регулирования в сфере ИИ предпринимаются в США примерно с середины прошлого десятилетия, но пока находятся в состоянии зародыша. В 2018 году властями США была сформирована специальная комиссия, которая на протяжении трех лет изучала проблему с разных углов. В итоговом документе авторы пришли к выводу, что США не готовы к конкуренции в этой сфере с Китаем, порекомендовав существенно нарастить темпы и финансирование разработок нейросетей. В частности, предлагалось ежегодно удваивать инвестиции в эту сферу и к 2026 году довести их до 32 миллиардов долларов в год. Также в документе звучал призыв активнее привлекать собственные и зарубежные кадры, финансировать их обучение.
В октябре 2022 года Белый дом представил Акт о правах человека в эру ИИ. В нем предлагается при внедрении нейросетей гарантировать американцам их безопасность и эффективность, обеспечить защиту от дискриминации со стороны алгоритмов и безопасность личных данных, проводить информирование и предлагать человеческие альтернативы. Вместе с тем, документ носит рекомендательный характер, а законодательство в этой сфере в США практически не развито.
Microsoft планирует вложить 10 млрд долларов в стартап, создавший языковую модель ChatGPT
Речь идет о компании OpenAI. Одна из ее разработок способна писать почти неотличимо от человека. Инвестиции в нее от Microsoft могут стать началом «новой эры искусственного интеллекта»
Инвестиции Microsoft станут началом «новой эры искусственного интеллекта» — по крайней мере, так пишет Financial Times в статье о крупных вложениях IT-гиганта в стартап OpenAI.
Этому стартапу едва исполнилось семь лет, а его самые популярные продукты — языковая модель ChatGPT, способная писать почти неотличимо от человека, и генератор картинок DALLE-2 — взлетели буквально несколько месяцев назад, но компанию уже заметили вершители судеб IT-индустрии. На прошлой неделе источники портала Semafor сообщили о планах Microsoft вложить в OpenAI еще 10 млрд долларов в дополнение к предыдущим инвестициям. Как пишет FT, таким образом доля IT-гиганта в, пожалуй, самом известном ИИ-стартапе достигнет 49%, а оценка капитализации OpenAI приблизится к 29 млрд долларов.
Как Microsoft сможет применить новые технологии? Комментирует директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин:
«Простейшее применение, которое приходит в голову, — это встроить этот ChatGPT в состав текстового процессора. И вот эта большая лингвистическая модель — ChatGPT— сможет тогда налету предлагать какие-то варианты продолжения тех текстов, которые пользователи пишут. Допустим, я как ученый провел какой-то эксперимент, сажусь писать научную статью, которая описывает результаты этого эксперимента. И я делаю наброски, план работы, такой каркас. И в каждом из этих разделов я пишу какие-то тезисы о том, что в этом разделе должно быть. Потом я нажимаю волшебную кнопку, и эта большая языковая модель, ChatGPT, мне дописывает остальной текст. Моя задача как человека, как ученого — определить цель, осуществить целеполагание и задать рамки, в которых этому ChatGPT надо будет работать, а все остальное, рутинную операцию, он сделает сам. Я вас уверяю, сейчас, когда ChatGPT был неделю недоступен, потому что все ломанулись туда, я лично реально страдал, потому что я без него не мог уже работать. А сегодня ChatGPT включился, они там, видимо, нарастили мощностей, и я за один присест, за буквально десять минут работы написал три страницы хорошего, добротного текста. Его писал я, просто я использовал для этого инструмент, который мне помогает генерировать, так скажем, рутинную операцию выполнять».
При этом пока ChatGPT впечатляет как умом, так и глупостью. В качестве примера собеседник радиостанции привел случай, когда модель попыталась с умным видом написать, что Готфрид Лейбниц изобрел теорию относительности и получил за это Нобелевскую премию. При том что этот ученый родился на два века раньше и Альфреда Нобеля, и Альберта Эйнштейна. Мой собственный эксперимент с написанием части одного из недавних сюжетов для Business FM с использованием ChatGPT завершился провалом: несмотря на доработку чернового материала, шеф-редактор сразу догадался, с каким из абзацев что-то не так.
Зато с поиском информации, даже с учетом проблем с фактчекингом, модель уже справляется прекрасно. Как сообщили ранее источники The New York Times, в Alphabet после выхода ChatGPT объявили «код красный» из-за угрозы для основного сервиса корпорации. О перспективах с точки зрения инвестиций в ИИ-проекты на российском рынке рассказывает IT-обозреватель «Российской газеты» Олег Капранов:
«Их очень много, допустим, очень большой рынок — это распознавание лиц. Все, что касается face recognition, это огромный рынок, он глобальный, и российские компании разрабатывали там и в прошлые годы, и сейчас разрабатывают продукты, которые проверяются и в России, и за пределами России. Опять же, мы видим, как растет рынок всего, что касается контента. И я думаю, что это довольно большая история. Третья история — это все, что касается защиты авторских прав, потому что там можно делать очень много вещей в реальном времени и тем самым защищать контент. Направлений очень много, но у нас здесь есть две проблемы. Первая — очень дорогая история в целом. Вторая — проблема с оборудованием для того, чтобы все это разворачивать. То есть система искусственного интеллекта, например, работает преимущественно на оборудовании NVidia, которая из России ушла, поэтому здесь тоже есть определенные вопросы».
ИИ-продукты начали проникать в обычную жизнь настолько, что о них уже сочиняют анекдоты. Одну из популярных в TikTok шуток можно пересказать примерно так. Собеседует эйчар по зуму соискателя в IT-компанию. Дает задание, тот через минуту присылает код. Просит оптимизировать — через минуту готово. Говорит добавить интерактивность — минута, и готово. Впечатленный эйчар говорит соискателю: «Вау, и давно вы программируете на Python?» А тот отвечает: «На каком еще питоне?»
На деле это преувеличение, и без участия человека любая современная модель дает смесь из разумных и дурацких ответов. Однако, как указывает FT, в качестве второго пилота ИИ уже помогает миллионам программистов. «Дочка» Microsoft, платформа для разработчиков GitHub, уже предоставляет своим пользователям сервис Copilot по подписке. По данным компании, с участием искусственного интеллекта сегодня пишется более 40% всего кода на платформе.
Андрей Ромашков
ИИ выведет автоматизацию на новый уровень
Яков Шпунт
Уже в текущем году на российском рынке могут появиться решения, использующие разработки в сфере генеративного искусственного интеллекта в области ИБ. Это новое направление, развитие которого обусловлено активным запросом на высокоавтоматизированные системы как следствие кадрового голода.
Наиболее известной системой, использующей большие языковые модели (LLM), является ChatGPT, появившийся 30 ноября 2022 г. Данный инструмент выдавал тексты, которые даже эксперты не всегда отличали от тех, что написаны человеком. В частности, в исследовании семи авторов, проведенном в Северо-западном университете, 32% рефератов статей, сгенерированных ChatGPT, прошли проверку рецензентов научных журналов. А целый ряд учебных заведений даже срочно изменили процедуры контроля знаний студентов, отказавшись от эссе и сочинений.
Практически сразу после появления ChatGPT начали использовать киберпреступники. Согласно данным исследования Check Point Research, данный инструмент уже применяется для написания программ на Python, Java и макроязыке приложений из MS Office, направленных на кражу данных, вымогательство и рассылку вредоносного кода.
Шумихой вокруг модного сервиса пытались воспользоваться также и авторы сомнительных мобильных приложений. "В App Store много приложений, представляющих собой платную оболочку для ChatGPT, которые заставляют вас поверить, что вы платите за доступ к этой платформе", - предупреждал основатель и генеральный директор Bloomtech Остин Оллред. Ситуация в Google Play еще хуже: многие приложения требуют оплаты, но не обладают заявленной функциональностью.
По мнению бизнес-консультанта Positive Technologies Алексея Лукацкого, ChatGPT может быть очень опасным инструментом в руках авторов фишинговых рассылок и сайтов, поскольку правдоподобность текстов станет выше. Однако эксперт озвучил прогноз, что ChatGPT может стать очень полезным инструментом для создания высокоавтоматизированных систем: "Мы ожидаем автоматизации рутинных задач за счет использования специализированного ПО, например систем класса SOAR, или отдельных модулей и функций в существующем ПО, например решений SIEM, NDR или WAF, позволяющих решить большинство задач ИБ силами существующих специалистов, а также благодаря использованию уникальных средств защиты, основанных на применении технологий machine learning и способных предотвращать хакерские атаки силами буквально одного-двух экспертов ИБ".
Также, по мнению Алексея Лукацкого, системы LLM можно будет использовать для написания разного рода документации, в частности политик ИБ, с чем дела традиционно обстоят очень плохо. "Я попробовал дать ChatGPT задание написать мне разные политики ИБ. Ну что я могу сказать: не идеально, конечно, есть куда развиваться. Но в первом приближении есть основа, которую можно улучшать уже человеку. Но как база - вполне. А уж если систему обучить на большом объеме текстов политик и стандартов, то можно получить очень достойный инструмент генерации документов ИБ", - так описывает результат своих экспериментов с ChatGPT Алексей Лукацкий. Также данный инструмент показал неплохие результаты при поиске потенциальных уязвимостей в коде. Но при работе с текстами на русском языке ChatGPT иногда ошибается, обычно проблемы возникают с согласованием слов в предложениях. Также много ошибок при использовании терминов, в том числе и в ИБ.
"Сервисы на основе ИИ и нейросетей однозначно способны ускорить разработку, потому что любой язык программирования балансирует между удобством чтения кода разработчиком и компактностью написания. Даже для самого простого действия, например вывода фразы на экран, надо написать как минимум полтора десятка символов. Поэтому любые средства на базе ИИ, которые понимают, что нужно дописать, серьезно сокращают рутинные процессы разработки, ускоряют написание кода и ценятся программистами, - уверен директор департамента разработки ПО "Рексофт" Николай Сокорнов. - Но есть и риски. Как это ни парадоксально, но такие инструменты скорее увеличат порог вхождения в профессию. Любые средства автоматизации программирования уменьшают количество рутинных задач. Вместе с этим сокращается потребность компаний в начинающих разработчиках, ведь в любой профессии обучение строится от простого к сложному. Новичкам чаще всего поручают именно рутинные задачи - написать по образцу 10 раз сходный кусок кода. Инструменты на базе ИИ исключают потребность в таких действиях, а значит, компаниям будут на входе нужны разработчики более продвинутого уровня, которые знают не только синтаксис языка, но и то, как строится приложение или из каких компонентов оно состоит, какие библиотеки существуют и т.п. Кроме того, разработчик должен будет уметь проверить, правильную ли конструкцию дописал ИИ".
ML/AI архитектор Softline Digital Дмитрий Зборошенко считает, что на данной стадии развития LLM-системы пока еще плохо подходят для промышленного применения: "Большинство современных языковых моделей, в том числе ChatGPT, мультиязычны, могут работать с русским языком. Однако есть существенные ограничения - грубо говоря, фреймворк она не напишет. Важный нюанс, что сеть способна генерировать связный текст, фрагменты кода, однако ее каждый раз нужно проверять на достоверность: условно код может выглядеть правдоподобно, но не будет выполняться, текст будет связным и непротиворечивым, но не отражать фактического положения дел. Для промышленного использования генеративные сети пока плохо подходят, так как каждый результат необходимо проверять".
Генеральный директор ИИ-компании iPavlov Лоран Агобян считает, что программистов заменить такие системы не смогут, да и не в этом их цель: "Однако они превратят ИТ-индустрию в гораздо более креативную среду и создадут огромные новые рынки. Системы типа ChatGPT нуждаются в существенных доработках для обработки текстов на других языках, в частности русском. Чем сложнее язык, тем больше требуется "дообучение" системы, что в конечном итоге сводиться к большим финансовым инвестициям. Ясно, что в XXI веке развиваться будут экономики тех стран, которые сделают гигантские вложения в создание предобученных NLP-моделей для своих языков. Современные цифровые ассистенты, созданные на базе таких систем, как ChatGPT, способны многократно увеличить объем продаж, внутреннюю производственную эффективность, уровень и культуру массового обслуживания любой крупной корпорации, что напрямую увеличивает ВВП страны. Мы видим это в ежедневной работе с нашими индустриальными заказчиками, при внедрении наших цифровых ассистентов и ботов в самые различные сектора экономики - от здравоохранения до госуслуг. На наш взгляд, инвестирование в подобные системы должно стать национальным приоритетом".
Эксперт в области ИИ Axenix AI Дмитрий Назаренко обращает внимание, что программирование, несмотря на требуемый объем технических знаний для успешного освоения, во многом творческая профессия. Учитывая, что нейросети пока умеют только генерировать решения, в той или иной мере являющиеся комбинациями уже поданных на вход данных, а не создавать что-то действительно новое, - опасность быть замененными грозит только программистам, чей предел - рутинные проекты малого размера и сложности. Однако для генерирования разного рода скриптов использование инструментов LLM весьма и весьма перспективно, но пока под контролем живых программистов.
Независимый эксперт в области ИТ и телекома Вадим Плесский высказал серьезный скептицизм в отношении качества работы ChatGPT и его аналогов: "Для любой системы, использующей ИИ, важно количество и качество датасетов, на котором проходит обучение. Создатели ChatGPT утверждают, что они обучали систему с использованием Wikipedia. А объем и качество русскоязычных статей в Wikipedia серьезно уступают англоязычным, и они отстают по времени. В результате с большой вероятностью можно утверждать, что сгенерированный системой (той же ChatGPT) текст на русском языке будем более "бедным" по сравнению с текстами на английском.
Утверждать, что системы с ИИ заменят программистов, неверно. Любой проект по разработке программного комплекса предполагает детальное изучение предметной области, составление технического задания, разбивку общего ТЗ на подзадачи и выбор инструментов для реализации. Когда (если) все было сделано, дальнейшую реализацию - с постановкой узкопрофильной задачи и ее решением с помощью заранее выбранных инструментов - можно автоматизировать, в том числе с использованием инструментов ИИ. Но если кто-то из заказчиков надеется, что появятся системы на основе ИИ и реализуют все их "хотелки", причем разработчикам и подрядчикам платить не придется, то это утопия".
Генеральный директор Alphabet Сундар Пичаи и глава отдела искусственного интеллекта Google Джефф Дин заявили, что Google не будет запускать продукт, подобный ChatGPT, из-за репутационного риска, связанного с этой технологией на данной стадии ее развития. При этом у корпорации большие планы на 2023 г. по развитию LLM-продуктов.
Университетам Австралии угрожает искусственный интеллект
Владислав Шабловский
Ведущие университеты Австралии решили вернуться к истокам: в 2023 году все экзамены будут проводить только с ручкой и бумагой, без возможности сдачи в электронной форме. Кардинальные меры призваны нивелировать угрозу честному образованию со стороны искусственного интеллекта.
Всему виной программа ChatGPT, набирающая популярность среди студентов. Этот компьютерный бот, появившийся два месяца назад, способен создавать качественные тексты как по мановению волшебной палочки: нужно лишь задать ему тему. Некоторые студенты сполна оценили достоинства новой программы, используя бот для подготовки эссе. В австралийских вузах прознали про нечестную игру обучающихся и решили прикрыть "лавочку": теперь применение искусственного интеллекта в учебе расценивается как мошенничество. О деструктивной сущности ChatGPT заявляли учебные заведения и в других странах. Так, госшколы Нью-Йорка оперативно осознали, что данная программа выступает своего рода "троянским конем" для образовательного процесса, и незамедлительно запретили ее использование. А ученый из Лондона даже провел эксперимент, спросив у бота ответ на экзаменационную тему. Выяснилось, что бот вполне мог бы стать отличником: его ответ оказался "последовательным" и "всеобъемлющим", на что способны далеко не все грызущие гранит науки.
Особую озабоченность университетов из Австралии вызывает умение ChatGPT и подобных программ преодолевать вузовский антиплагиат и прочие системы защиты. Профессор Тоби Уолш отмечает, что не спасает даже использование цифровых водяных знаков в экзаменационных заданиях: современный искусственный интеллект играючи справляется и с ними. По его мнению, борьба университетов с новейшими технологиями напоминает "гонку вооружений", в которой вузы обречены на неудачу. Примечательно, что бесперспективность долгосрочного противодействия технологиям сознают и в руководстве самих австралийских вузов. . Но пока компромисс во взаимоотношениях науки и инновационных технологий не найден, спутниками австралийских студентов останутся ручки и бумага.
Нашли ошибку? Выделите фрагмент и нажмите Ctrl+Enter