Всего новостей: 2573536, выбрано 2 за 0.007 с.

Новости. Обзор СМИ  Рубрикатор поиска + личные списки

?
?
?  
главное   даты  № 

Добавлено за Сортировать по дате публикации  | источнику  | номеру 

отмечено 0 новостей:
Избранное
Списков нет

Кивокурцев Олег в отраслях: СМИ, ИТвсе
Кивокурцев Олег в отраслях: СМИ, ИТвсе
США. Россия > СМИ, ИТ > forbes.ru, 23 августа 2017 > № 2314651 Олег Кивокурцев

Плечом к плечу: Илон Маск и русские инженеры против роботов-убийц

Олег Кивокурцев

Сооснователь и директор по развитию фирмы Promobot

Представители компаний, разрабатывающих робототехнику и технологии искусственного интеллекта (ИИ), из 26 стран подписали открытое письмо, обращенное к ООН, о необходимости запретить разработку и использование автономного оружия

Обращение было подписано перед Международной конференцией с участием ООН по вопросам использования искусственного интеллекта (IJCAI), которая прошла 21 августа в Мельбурне, и одним из ключевых вопросов была судьба автономного вооружения. Среди подписантов письма был Илон Маск, известный своим осторожным отношением к ИИ, а также сооснователи российской компании Promobot Алексей Южаков и Олег Кивокурцев. Олег, как участник этих событий, объяснил, почему вопрос об этике и опасностях использования искусственного интеллекта сейчас критичен.

Восстание машин

Одушевить неодушевленное — давняя мечта человечества, которая зародилась еще в древнегреческих легендах об ожившем медном великане, прошла через чертежи механического рыцаря Леонардо да Винчи, «взорвала» ХХ век промышленной роботизацией и вылилась в автоматические устройства, наделенные искусственным интеллектом. Термин «робот» ввел в обиход чешский писатель Карел Чапек в 1921 году. Он уже тогда написал пьесу о фабрике по производству искусственных людей, в которой машины взбунтовались против своих хозяев, — тема полюбилась фантастами, вспомните культовые «Терминатор» и «Матрица».

Сегодня роботы уже стали обыденностью — они упрощают быт, автоматизируют бизнес-процессы, позволяют людям больше заниматься творчеством. Мы их контролируем, они нам помогают. Но многие ученые, инженеры и программисты все же считают, что развитие искусственного интеллекта может превратить машины в серьезную потенциальную угрозу для человека.

Одна из основных технологий в области ИИ, которая сейчас активно развивается, — это нейронные сети. Машины на современном этапе развития без труда могут быстро, автономно и максимально эффективно получать информацию об окружающем мире — идентифицировать объекты, сопоставлять их с базами данных, принимать решения на основе анализа. Например, «умные» камеры на пограничных постах и в местах массового скопления людей оценивают концентрацию потока, реагируют на экстренные ситуации и при необходимости автоматически вызывают соответствующие службы. Нейросети распознают людей по изображению, помогая искать преступников.

Другая важная технология современности — машинное обучение, в котором используются средства математической статистики, численных методов, методов оптимизации, теории вероятностей, теории графов и другие методы обработки больших массивов данных. Программы в процессе повторения постепенно обучаются определенным действиям — так же, как и люди. Раз за разом выполняя похожие задания, машина прогрессирует. Возьмем автокорректор в телефоне, это простейшая нейросеть с машинным обучением: если вы несколько раз отказались изменить неизвестное системе слово, оно автоматически будет добавлено в словарь. Еще пример — алгоритм распознавания лиц у Facebook на основе фотографий из социальных сетей. Уже в 2015 году его точность достигала 83%.

Машины способны даже учиться принимать решения. Умные камеры могут автоматически повышать освещенность либо менять другие настройки в зависимости от ситуации, чтобы лучше распознавать лица.

Именно эти технологии и могут при определенных обстоятельствах стать опасными для человека. Математическая статистика и теория вероятностей — относительные и субъективные методологии. То есть результат обработки данных может оказаться неожиданным, а последствия ошибки уже будут зависеть от степени проникновения технологий в нашу жизнь. Илон Маск считает, что роботы могут «начать войну, публикуя фальшивые новости, подделывая учетные записи и просто манипулируя информацией».

Разумные роботы

Возможен ли распространенный фантастический сюжет о роботе, который осознает себя разумным существом и даже проявляет эмоции? Это вопрос открытый.

Существует две противоположных теории. Еще в 1980 году американский философ Джон Сёрл проводил эксперименты, чтобы доказать отсутствие самосознания у ИИ. По его мнению, машинам можно указать, как выполнять ту или иную операцию, но осознавать и понимать ее назначение они не будут. Сегодня многие ученые придерживаются именно этой позиции. С ними спорят сторонники когнитивистики, которые считают, что сознание человека не зависит от состояния мозга. То есть теоретически его можно реализовать на другом даже небиологическом носителе. Правда, «загадку человеческого разума» еще никто не разгадал, поэтому перенести принципы работы сознания на машину пока невозможно.

Кто окажется прав, предсказать сложно. Пока нет веских доводов в пользу того, что ИИ сможет осознать свое существование, самостоятельно себя программировать и проявлять эмоции.

Угрозы автономного вооружения

Если искусственный интеллект начнет эволюционировать и научится саморазвиваться, люди не смогут влиять на него. Маловероятно, что ИИ целенаправленно решит уничтожить человечество. Скорее, он просто выйдет из-под контроля либо попадет в руки не тех людей. Чтобы этого не произошло, нужно уже сейчас задуматься о законах, регулирующих ИИ, о робоэтике и машинной морали. Известный астрофизик Стивен Хокинг, основатель Microsoft Билл Гейтс и предприниматель Илон Маск уже давно призывают научную общественность выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.

Сейчас робототехника регулируется общими электротехническими, промышленными и другими правилами. Но это постоянно растущая мощная отрасль, ей нужен свой ряд СНиПов, ГОСТов, допусков и нормативных документов, которые лягут в основу международного кодекса. В нем, в первую очередь, нужно прописать правила, касающиеся автономного вооружения:

Наличие красной кнопки, которая позволит ликвидировать систему. Какими бы ресурсами искусственный интеллект ни обладал, какие бы задачи ему ни делегировали, должна быть кнопка «стоп», которая гарантированно выведет систему из строя.

Грамотное делегирование задач. В 1980-е годы была такая история: радар принял солнечные блики за огненный хвост ядерных ракет. В соответствии с распознанной информацией система ввела все боеголовки в максимальную готовность и отправила сигнал офицеру, чтобы произвести запуск, — это было предусмотрено правилами. Офицер разобрался в ситуации, не нажал на кнопку и буквально спас мир от ядерной войны. Вывод — нельзя делегировать полномочия, способные уничтожить человечество, машине. В частности, не должно появиться полностью автономного оружия массового поражения.

Регламентация системы прицеливания и навигации. Уже сегодня применяются автоматизированные орудия локального поражения — системы распознавания врагов на танках, системы автоматического обнаружения противников на автоматах и т. д. Стоит понимать, что пока не существует ни одной системы распознавания объектов с точностью 100%. Всегда есть погрешность. И если для Facebook это простительно, то для вооружения есть риск поражения мирных жителей, жилых поселений. Поэтому стоит регламентировать навигацию и систему прицеливания как можно скорее.

Важность человеческого фактора. Человек при принятии решений учитывает многочисленные обстоятельства, в том числе моральные, ориентируется на окружающую среду. Основная задача ИИ — повышение эффективности, автоматизация и снижение затрат, ничем другим машина не руководствуется. Главное — поразить противника, даже если при этом под удар попадет жилое поселение. Поэтому не стоит доверять искусственному интеллекту стратегию на финальном этапе. Можно запросить аналитику, наиболее выгодные варианты, но окончательное решение должен принимать человек.

Протоколирование. Все робототехнические устройства, использующиеся в военных действиях, должны работать по закрытым протоколам, для которых необходимо разработать соответствующие стандарты.

Устройства должны обмениваться информацией с командным пунктом или между собой по особым типам шифрования, к которым никто не имеет доступа. Не бывает полностью безопасных цифровых систем. Если протоколы недостаточно защищены, к ним могут подключиться террористы.

Сейчас разработкой этого международного кодекса занимаются коллеги во всем мире. Письмо в ООН, под которым мы подписались, — это первый шаг к утверждению документа, регламентирующего использование технологий в области искусственного интеллекта с техническими и моральными составляющими. И последствия для стран, которые планируют внедрять роботов в войска без соблюдения кодекса, должны быть такими же, как для стран, нелегально производящих ядерное или химическое оружие.

Станет ли научная фантастика о бунте машин реальностью, никто не знает. По мнению Стивена Хокинга, искусственный интеллект может стать как самым лучшим, так и самым худшим изобретением человечества. Пока, конечно, бояться рано. Современные нейронные сети устроены в полторы тысячи раз проще, чем головной мозг крысы. Поэтому сейчас самое время создать условия для максимально безопасного развития ИИ, чтобы избежать проблем, которые могут возникнуть в будущем — бесконтрольности, «гонки искусственных интеллектов», тайных разработок и хакерских атак.

США. Россия > СМИ, ИТ > forbes.ru, 23 августа 2017 > № 2314651 Олег Кивокурцев


Россия. ПФО > СМИ, ИТ > bfm.ru, 2 сентября 2016 > № 1884980 Олег Кивокурцев

История одного сбежавшего робота: глава Promobot рассказал о пути к успеху

О том, чем уникальны эти роботы, и как молодые основатели пермского стартапа проснулись знаменитыми, на Восточном экономическом форуме Business FM рассказал глава компании Олег Кивокурцев

Как «с нуля» создать в России производство инновационных роботов и за три года выйти с ними на мировой рынок? Об этом рассказал в интервью Business FM в кулуарах Восточного экономического форума глава компании по производству «умных» роботов Promobot Олег Кивокурцев. Promobot взорвал российские соцсети, когда в начале июня робот сбежал с тестовой площадки и устроил пробку на одной из дорог Перми. С Олегом Кивокурцевым беседовал главный редактор радиостанции Илья Копелевич.

Компания замечательна тем, что вы производите роботов. Что они делают, как это назвать?

Олег Кивокурцев: Мы производим абсолютно автономных сервисных роботов для бизнеса. Они могут общаться на любые темы, передвигаться, избегая столкновений, двигать руками, головой, транслировать различные промоматериалы на своем дисплее и работать в качестве администратора, промоутера, хостеса, гида в местах повышенного скопления людей: в кинотеатрах, бизнес-центрах, торговых центрах.

То есть они встречают людей и направляют их туда, куда им нужно?

Олег Кивокурцев: Да. Разгружают административный персонал от одинаковых вопросов, которые каждый, кто заходит, им задает, и таким образом увеличивают продажи, лояльность клиентов, качество сервиса и основные показатели любого бизнеса.

Сколько лет компании?

Олег Кивокурцев: Три года.

И вам удалось выйти на международный рынок, причем произошло это не благодаря, а вопреки, и это очень важная и интересная бизнес-история, реальный кейс.

Олег Кивокурцев: Мы на сегодняшний день уже продали 156 роботов, и у нас еще подписано около 100 контрактов на поставку. Мы поставляем роботы в США, Чехию, Великобританию, наш самый крупный иностранный заказчик — это Китай. На одной из выставок в Японии мы познакомились с китайским бизнесменом, он представляет компанию, которая производит микроэлектронику. Он анализировал, какие есть решения на рынке сервисных роботов, что может помочь его бизнес-центру, что может помочь в торговых центрах, которые находятся рядом, и сравнивал. Увидел европейские разработки — они относительно хорошие по качеству, но ценник нереальный. Увидел роботов из США — та же самая история. Из Китая наоборот — качество и функционал достаточно низкий, цена доступная. И увидел наши решения. У нас золотая середина: по функциональным характеристикам многие решения наши роботы превосходят, а по цене мы в пять, а то и в шесть раз дешевле. Тут же на этой выставке мы подписали контракт на поставку, было все достаточно торжественно, и на сегодняшний день выполняем этот контракт. Выполнять его достаточно непросто, потому что у экспорта в Китай особые правила, но как бы то ни было мы потихоньку работаем, и все больше и больше наших роботов появляется в Китае.

К чему привела прекрасная история, когда робот оказался на улице и пошел погулять?

Олег Кивокурцев: Недавно мы тестировали новую систему позиционирования и передвижения роботов, один из инженеров забыл закрыть ворота на тестовом полигоне, робот этим воспользовался и выехал в эти ворота. Примерно через 40-50 минут мы обнаружили пропажу робота и нашли его на проезжей части. К тому моменту он уже успел отъехать достаточно далеко, порядка 100 метров, остановился на проезжей части и вызвал небольшой затор.

Он сам остановился? Понял, что вышел из зоны контроля?

Олег Кивокурцев: Он не был рассчитан на такой длинный промежуток, у него села батарея. Остановился на проезжей части, создал затор. Мы его нашли в окружении полицейских. Приехала машина, кто-то, видимо, предупредил, что робот. Эта история получила очень широкую огласку.

Как все дальше развивалось?

Олег Кивокурцев: Сначала написали местные СМИ, потом подхватили федеральные. Из российских взяли уже международные.

Под названием «Робот вышел на дорогу».

Олег Кивокурцев: Да, Russian Robot Escaped Testing Area — робот сбежал с завода. Через три дня об этой новости уже знали в Северной Америке, Южной Америке, Австралии, Японии, Китае. Все об этом написали, и это вызвало необычайный интерес. По факту повторился сценарий фильма «Короткое замыкание», когда робот тоже сбежал от своих создателей. Люди начали изучать, что за компания, каких роботов они делают, начали приходить к нам на сайт, и одна из компаний из Великобритании, которая занимается тем, что внедряет интерактивные решения в бизнес, стала нашими дистрибьюторами. Тут же они закупили у нас пять роботов, ровно в тот же день, как они написали нам письмо: «Здравствуйте, видели, читали, изучили, что вы делаете».

Видели фотографию вашего робота на дороге.

Олег Кивокурцев: Да. Видели фотографию, изучали видео, почитали ваш сайт. Мы хотим быть вашими партнерами, давайте заключать договор, высылайте нам пять роботов. Тут же подписали и таким образом открыли для себя рынок Великобритании. Многие компании стараются, офисы открывают, на выставки едут, маркетинг какой-то, рекламу закупают и так далее. А мы вот таким образом, просто на особенности нашего производства...

А в первый момент не было желания наказать того инженера, который не закрыл ворота?

Олег Кивокурцев: Да, я на самом деле очень злился первое время. Мне было крайне неприятно писать объяснительную полицейским. Они сказали, по факту это хулиганство и мы имеем право задержать вас на 15 суток.

Или робота.

Олег Кивокурцев: Да, или робота, или вместе с роботом. Но поскольку вы занимаетесь вроде бы хорошим делом и это сделали непреднамеренно, мы вас на данном этапе отпустим, но больше такого не допускайте. Было очень неприятно, хотелось наказать этого человека, но в итоге это сыграло нам в плюс.

Ведь не могли предположить тогда, что так произойдет.

Олег Кивокурцев: Да, не могли предположить, и очень рады, что так получилось.

Теперь немножко о бизнесе. Как это все началось?

Олег Кивокурцев: У нас на сегодняшний день предприятие находится в Перми, мы на нем осуществляем производство. Технологическая линия разбита на пять циклов: производство пластика, производство металла, производство электроники, сборка, покраска. Мы активно используем субподрядчиков, и на нашем предприятии мы осуществляем только сборку и пуско-наладку. Практически все комплектующие, кроме электроники, у нас отечественные, российского производства, что нам дает определенное преимущество в цене. На сегодняшний день наше предприятие — это 500 квадратных метров — находится в центре Перми.

Но здесь же главное разработка. Вы совсем молодой человек. Откуда взялось и сколько времени потребовалось, чтобы создать этот бизнес?

Олег Кивокурцев: На пятом курсе мы с однокурсниками начали думать, чем заниматься. Хотелось сделать что-то свое. Отметили тенденцию робототехники, что это активно развивающийся рынок, нужно в этом направлении идти, и чем скорее, тем лучше.

Студенческая компания, в общем.

Олег Кивокурцев: Да. И с пятого курса начали уже потихоньку производить, ездить по выставкам. На одном научно-техническом конкурсе мы познакомились с Алексеем Ужаковым. Он пришел выступить перед студентами с напутственным словом — он к тому моменту уже восемь лет занимался инновационным бизнесом, внедрял системы «умный дом» в различные здания, торговые центры, бизнес-центры. Мы подошли к нему и предложили посотрудничать. У нас на тот момент был немного другой робот — мы производили снегоуборочную роботизированную технику, а он нам ответил, что есть сейчас большой спрос и его часто спрашивают клиенты о роботе для сервиса, чтобы разгрузить административный персонал. Давайте, ребята, сделаем: с меня — деньги, с вас — разработка. И будем партнерами.

Вы все студенты были Пермского политехнического университета?

Олег Кивокурцев: Да, разных кафедр. Я сам учился на инженера-конструктора, еще один наш товарищ Максим Утев учился тоже со мной на инженера-конструктора, был лучшим студентом на курсе. Игорь Еремеев учился на кафедре автоматики и телемеханики и как раз разрабатывал программно-аппаратную часть. Алексей Ужаков был такой бизнес-ангел. Мы начали работать. Через четыре месяца мы выкатили первый прототип, Алексей показал его тем клиентам, которые спрашивали, показал другим, и у нас получилось продать десять роботов. Цена на тот момент была 300 тысяч рублей. Десять роботов, 300 тысяч рублей — это было 3 млн. На тот момент это было 100 тысяч долларов. Вот они, сидовые инвестиции, посевные инвестиции. На эти деньги мы смогли пойти дальше, доработать первую модель, начали участвовать в различных стартап-мероприятиях, конкурсах и в 2014 году стали лучшим индустриальным стартапом по версии конкурса GenerationS — победили в номинации Industrial. Нас признали, что у нас сильная команда, хороший сбыт, перспективная технология. Действительно, на тот момент, когда мы начали делать, мы проанализировали, что все существующие роботы — это удаленно управляемые людьми машины, а наш робот абсолютно автономный — включил кнопку и ушел. Он сам ездит, сам общается и сам выполняет функции.

Главное ворота закрывать.

Олег Кивокурцев: Да, главное ворота не забывать закрывать, и все будет хорошо. После чего мы выиграли в конкурсе и получили 1,25 млн рублей. На эти деньги мы создали вторую версию нашего робота и начали активно ее продвигать и продавать. Написали заявку в Фонд «Сколково», нас приняли в резиденты. У Фонда «Сколково» есть такое направление, как выставки: они арендуют на международных выставках площади и позволяют стартапам, которые их резиденты, участвовать там бесплатно. Мы начали ездить, и на одном из форумов Slush 2015 — это крупнейшая технологическая конференция в Европе, проходит в Хельсинки, туда приезжают ежегодно порядка 20 тысяч человек — мы начали принимать участие в конкурсе Slush 100. Это такой конкурс, где разные технологии борются за приз в 500 тысяч долларов. Попасть на этот конкурс было крайне тяжело, было 16 тысяч заявок, из них отобрали только 100. Одни из них были мы. Всего из России были только две компании, которые приняли участие. Мы начали выступать в номинации Hardware и раскрывать свои финансовые показатели. К тому моменту у нас уже были подписаны длинные контракты, и оборот составлял порядка 1 млн долларов. В жюри был редактор европейского Forbes. У них как раз-таки в тот момент формировался впервые в истории список предпринимателей младше 30 лет. Написали об этом, пошел огромнейший информационный шум, и у нас увеличилось количество дилеров после этого в 2,5 раза: было на тот момент семь, стало около 20. Нам начали доверять. Начали писать люди из Европы: а что вы делаете, если вас журнал признал такими успешными? Наверное, с вами стоит иметь дело. И это послужило следующим толчком к нашему развитию. Сейчас уже сентябрь 2016 года. Мы дважды выполнили объем, который реализовали в 2015 году, хотя еще только девятый месяц, а мы уже дважды выполнили тот объем и по производству, и по финансам. Сейчас мы активно разрабатываем третью версию нашего робота. Будет большая презентация на форуме «Открытые инновации» в октябре в Москве.

Кому и за что вы бы сейчас хотели сказать спасибо за то, что так все получилось? Не случайным обстоятельствам, как то что робот выкатился за ворота и это имело такой неожиданный эффект, что о вас узнали и к вам пришли, а у вас, оказывается, есть,что предложить. Кому всерьез хотите сказать спасибо, что все так получилось? Может, родной школе, может быть, институту, Ужакову, Фонду «Сколково»?

Олег Кивокурцев: Хотелось бы сказать большое спасибо Российской венчурной компании, их конкурсу GenerationS — они решают огромнейшую проблему российских технологий. Они доносят до ученых, до молодых специалистов то, что знания и разработки можно коммерциализировать, это не так сложно, они эти знания дают, что, собственно, когда-то нам очень помогло, и мы этими знаниями пользуемся до сих пор. Спасибо хотелось бы сказать им. Но и, соответственно, нашему Пермскому политехническому университету, который дает одно из лучших технических образований на сегодняшний день в России.

Вы откуда знали про все, как делать роботов? Это совсем передовая вещь. Оттуда знали?

Олег Кивокурцев: Именно оттуда знали, изучали, брали базу знаний и читали очень много зарубежной технической, научной литературы и применяли эти знания. Конечно же, всего знать заранее не получается, разработка технологических продуктов — это сложный процесс, требует огромнейшего терпения, усилий и финансов. Но мы с этим пока справляемся и останавливаться не планируем. Естественно, я бы хотел сказать огромнейшее спасибо российским СМИ. Они всегда очень открыты, и всегда нравится с ними сотрудничать.

Вы сами создаете повод. Робот на улице — нарочно не придумаешь.

Олег Кивокурцев: Благодаря тому, что СМИ такие инфоповоды берут, у нас получается очень активно развиваться.

Я правильно понимаю, что от государства денег вообще не брали?

Олег Кивокурцев: Мы единственный раз выиграли в конкурсе GenerationS 1,25 млн рублей.

Такая стипендия для компании.

Олег Кивокурцев: Но мы уже трижды выплатили эти деньги в качестве налогов. И все, в принципе, больше от государства денег не просили, не брали. Бывает, предприниматели говорят: почему государство нам не дает денег, мы такие передовые. Это никогда работать не будет. Нужно просто идти и делать. У государства совсем другие функции: есть специальные институты, которые дают деньги. Нужно этим и пользоваться.

На Восточном форуме вы зачем?

Олег Кивокурцев: Здесь мы представляем наши разработки в рамках стенда Сбербанка.

Это уже ваш клиент?

Олег Кивокурцев: Это наш клиент.

Вы поставляете свои роботы за границу. А в России есть спрос?

Олег Кивокурцев: Пока мы еще только начали поставлять роботов за границу: экспорта менее 30%, остальное — это все Россия. Наши роботы на сегодняшний день расположены по всей России от Крыма до Якутска. Пока на Дальнем Востоке наших роботов нет, но я думаю, что это вопрос времени. Дальневосточный форум может нам в этом помочь. Здесь мы представляем наши технологии на стенде Сбербанка, это наш клиент. Мы потихонечку начинаем внедрять туда наших роботов. Они повышают сервис и лояльность клиентов. На форуме наших роботов можно найти, с ними пообщаться. Они расскажут про все продукты, какие делает Сбербанк, ответят на любые вопросы. Я думаю, что в будущем, лет через 20, а может, даже меньше, наш робот будет стоять во многих отделениях Сбербанка.

Спасибо и удачи.

Илья Копелевич

Россия. ПФО > СМИ, ИТ > bfm.ru, 2 сентября 2016 > № 1884980 Олег Кивокурцев


Нашли ошибку? Выделите фрагмент и нажмите Ctrl+Enter