БЕЛАРУСЬ · 15 января 2015, 22:07 · Станислав Иванейко
Профессор БГУИР: «Бунт интеллектуальных систем — выдумки дилетантов»

В последнее время участились разговоры о потенциальной опасности искусственного интеллекта (ИИ). Стивен Хокинг, Элон Маск и ещё десятки учёных, предпринимателей и инвесторов подписали открытое письмо, в котором на основании доклада Института будущего жизни призывают к осмотрительности при разработке систем ИИ. В Беларуси время подобных инициатив настанет не скоро, но страна ведёт разработки в этой области.

О том, стоит ли опасаться искусственного разума, dev.by поговорил с доктором технических наук, профессором Владимиром Голенковым — заведующим кафедрой интеллектуальных информационных технологий БГУИР, отметившей на днях 20-летние.

«Самая большая опасность исходит от людей»

— Владимир Васильевич, в произведениях массовой культуры довольно популярна тема «бунта» интеллектуальных систем. Это вообще возможно?

— К сожалению, в быту довольно часто сталкиваюсь с подобного рода вопросами. Страхи перед техническим прогрессом — это, конечно, рупор бездельников. Подавляющее большинство именно так оправдывает нежелание жить в более просвещённом, технологичном мире.

Дело в том, что все проблемы, связанные с техникой, в конечном счёте отражают человеческую халатность или безграмотность. В любой аварии — не важно, автомобильная, железнодорожная, авиационная — чаще всего виноват человеческий фактор. Роковой технический сбой происходит достаточно редко, это из разряда «шёл по улице и кирпич на голову упал». Я, например, люблю горы. Вероятность, что там на тебя что-то свалится или что сам куда-то провалишься, весьма высока. Так что, из-за этого не ходить в горы? Я готов заплатить этим риском, чтобы получить удовольствие от общения с природой.

Что касается компьютерных систем, всё ведь связано с человеком. Если он захочет что-то плохое сотворить, используя интеллектуальный или другой метод, он это сделает. Можно создать ядерный реактор, который будет работать в атомной электростанции на благо людей, а можно его превратить в оружие массового поражения. Насколько велика угроза того, что искусственным интеллектом воспользуются люди со злым умыслом? Не более, чем угроза использования «не по назначению» любых других технических решений. Самая большая опасность исходит не от природы и не от техники, а от людей.

Что до бунта интеллектуальных систем — во многом это выдумки дилетантов. Нам ещё предстоит пройти долгий путь, чтобы почувствовать осознанную угрозу или агрессию по отношению к человеку со стороны компьютерной системы. Не говоря уже о перспективе нанести вред людям.

Разговоры об угрозе ИИ — просто беседы для людей, которые хотят поговорить, из серии «Может ли метеорит упасть на землю, вызвав новый Ледниковый период?». А что, такая вероятность есть.

— То есть нам ничего не угрожает?

— Как сказать. Уже существуют системы, которые могут навредить в определённой сфере, те же вирусы. Но их создал человек, он же отдаёт команду атаковать.

«Нет общей теории интеллектуальных систем»

— Искусственный интеллект пока не умеет развиваться самостоятельно. Что необходимо для того, чтобы он сам обучался, и как в таком случае можно будет ограничить его совершенствование?

— Меня всегда восхищает пропасть между знаниями, которые люди получают из фантастических произведений, скажем, Айзека Азимова, и реальным положением дел. Человечество сейчас мучительно переходит на технологии, в основе которых лежат знания и их обработка. Да, это шаг в сторону массового использования интеллектуальных компьютерных систем, которые построены по новой архитектуре. Но они окажутся более гибкими, их будет проще совершенствовать. К тому же, они смогут самосовершенствоваться. Для этого как раз необходимо сделать шаг вперёд, перейти на новый этап развития информационных технологий.

Можно ли говорить о механизмах самоорганизации, самообучения компьютерных систем, основанных на знаниях? Они не так заоблачны, как могут показаться. Если система накопленного опыта каких-то знаний хорошо структурирована и целостна, то механизмы самоорганизации и самообучения становятся довольно прозрачными и реальными. Главное — понять, как должна быть устроена структуризация знания, хранимого в памяти компьютерной системы.

В теоретическом изучении искусственного интеллекта есть значительные успехи. К сожалению, пока нет общей теории интеллектуальных систем, которая бы объединяла эти результаты в единую картину — мир поразился бы, сколько всего уже сделано. Ум учёного проник далеко в этих вопросах. Но, кроме научного понимания того, как устроена интеллектуальная система, необходима технология, которая предоставит инструмент для разработчиков этой системы.

До появления массово используемых интеллектуальных систем необходимо создать условия для массовой разработки и использования семантически совместимых систем, основанных на знаниях, и не обязательно обладающих способностью решать интеллектуальные задачи. Лишь после этого можно будет полноценно говорить об искусственном интеллекте.

«Тест Тьюринга — своего рода шутка гения»

— В 2014 году системе впервые удалось выполнить тест Тьюринга, разработанный ещё в 1950 году для определения, насколько интеллект машины может имитировать человеческий. Получается, искусственный интеллект уже смог обмануть тест, выдав себя за человека…

— Оценка уровня интеллектуальности любой системы — очень зависимая от конкретного периода вещь. Представьте, как отреагировали бы наши предки несколько веков назад, если бы кто-то сказал, что есть техническая система, которая умеет считать. Этого несчастного отправили бы на костёр. А сейчас никого не удивляет, что компьютерная система считает быстрее и лучше человека.

Или более свежий пример — система обыграла Каспарова в шахматной партии. Что это означает? Да ничего. Это просто говорит о том, что есть система, которая может конкурировать в определённом секторе с человеком. Но из этого не следует её интеллектуальность. Что считать интеллектом? Если система имеет зафиксированный уровень знаний и навыков — например, способность решать задачи из какой-то области, играть в шахматы, — то это будет критерий не интеллектуальности, а критерий образованности.

Суть интеллекта — в скорости и границах эволюции. Интеллектуальная система должна уметь быстро обучаться, приобретать новые знания и навыки. Но тут встаёт вопрос о границах этих знаний и навыков. Скажем, волк может обучаться, становиться опытнее. Однако волк при всём желании не научится решать дифференциальные уравнения или играть в шахматы. Потому, что у волка есть потолок, хотя особи между собой отличаются: менее способный попадётся охотникам или умрёт с голода, а более развитый и сильный окажется во главе стаи.

Таким образом, нельзя путать уровень образованности, который определяется уровнем конкретных знаний и навыков системы, и интеллект этой системы как способность быстро схватывать новые знания и навыки и быстро обучаться не только на своих, но и на чужих ошибках. При этом высокий уровень интеллекта не должен иметь никаких границ в усвоении новых знаний и навыков.

— А как же быть с тестом Тьюринга?

— Он проверяет уровень знаний и навыков в чём-то определённом, а не интеллект как таковой. И его можно спокойно обмануть. Имитировать можно всё что угодно, но имитация и реальность — две разные вещи.

Тест Тьюринга и раньше оспаривался, он уже давно устарел. После его введения были быстро созданы системы, которые просто ведут поверхностный диалог. Скажем, разговор начинается так: «Я вчера ходил в магазин». Система услышала слово «магазин» и цепляется за него: «У нас на районе открылся новый магазин». Дальше из ответа будет выхвачено ещё одно ключевое слово, и предложение будет построено уже вокруг него. Особенность в том, что это обычный обмен информацией, никакой проблемы не решается, просто идёт бесцельный информационный поток.

Аналогом теста Тьюринга можно считать централизованное тестирование: школьники разучились решать задачи, доказывать теоремы — им нужно просто отвечать на вопросы. Получается поверхностное мышление. Системы, которые проходят тест Тьюринга, тоже умеют всего лишь отвечать на вопросы, но разобраться с проблемой не в состоянии. Интеллектуальная же система должна продемонстрировать умение быстро приобретать новые знания и навыки в различных предметных областях, а также умение отвечать на любые вопросы и решать любые задачи из этих предметных областей.

Свою роль тест Тьюринга сыграл, но с научной точки зрения это своего рода шутка гения.

«Потенциал у Беларуси очень приличный»

— С развитием искусственного интеллекта и его массовым внедрением могут вновь начаться разговоры, которые уже велись в период научно-технической революции: людской труд станет не нужен, вырастет безработица… Сценарий повторится?

— Это полная чушь. С появлением заводов человеческий труд стал более востребованным. Автоматизация деятельности не означает сокращение персонала. Например, с переходом на электронную документацию число бухгалтеров не сокращается, а число программистов так и вовсе растёт — нужно ведь следить за работоспособностью систем.

Да, какие-то сферы должны быть полностью автоматизированы. Придумав экскаватор, мы ведь не отказались от лопаты. Работы всем и всегда хватит. Было бы желание.

— Расскажите о достижениях в области искусственного интеллекта в Беларуси?

— Хочу заметить, что потенциал у нас очень приличный. Правда, в советское время научные разработки в области искусственного интеллекта у нас не очень приветствовались. Я это и на себе испытал, когда в семидесятых стал заниматься в этом направлении. К счастью, эти ограничения позади.

Работы в области искусственного интеллекта в нынешней Беларуси уже достаточно хорошо представлены. Главное, чтобы они привели к массовым конкретным инженерным разработкам и коммерческим продуктам.

Важную роль в развитии искусственного интеллекта в стране играет ежегодная международная научно-техническая конференция «Открытые семантические технологии проектирования интеллектуальных систем», которая пройдёт в Минске 19-21 февраля. Её основными организаторами являются БГУИР, Администрация ПВТ, ОИПИ НАН Беларуси, Российская ассоциация искусственного интеллекта.

— Напоследок — несерьёзный вопрос. Азимов вывел «Три закона робототехники», которые, в принципе, можно отнести и к искусственному интеллекту. Хотели бы что-то изменить в них или добавить четвёртый пункт?

— Нет, Азимов — очень умный человек, добавить к его пунктам нечего. Речь идёт всё-таки о системах даже не завтрашнего, а послезавтрашнего дня. Вот для них нужно будет уточнять какие-то моменты, но не сейчас.

В настоящее время нет необходимости пересматривать правила для робототехники по отношению к людям. Нам бы до завтра дожить: уровень образования падает, наука финансово не поддерживается, бизнес пока не осознал необходимости сотрудничества с учёными. Но я уверен, что развитие продуктовой бизнес-модели существенно изменит отношение бизнеса к науке, в частности, к искусственному интеллекту, поскольку интеллектуализация современных компьютерных систем является важнейшим фактором их конкурентоспособности.

 


Фото: Евгений Ерчак

Вакансии

Обсуждение

6178553c3088be31671f8146ba91fd4b?1401052672
+4

Хорошо сказано: четко и по делу. Но, при всем уважении к профессору, гении и отличаются от просто мастеров своего дела тем, что думают не только о том, что будет завтра, но и о том, что может быть послезавтра. И, если Стивен Хокинг, Элон Маск и другие известные своими достижениями люди подписывают такое письмо - значит стоит хотя бы задуматься. А Беларусь... мы еще в сегодня еле-еле просыпаемся, с похмельем после вчерашней веселой вечеринки.

Picture_1216?1356409833
AnthonyBY
– гребец в галеры

+9

да, статья отличная. Г-н Голенков говорит очень по делу.

Однако, мне кажется, точнее есть вероятность, что Элон Маск лобировал подписание данного открытого письма для того что бы поставить палки в колёса Google с их self-driven car, и изменить public opinion по данному вопросу. Когда компания стоит $14B (и акции просели с $286, в сентябре, до $192 - сейчас), выпуск Tesla Model 3 задерживается, можно под это дело и Хокинга подписать (простите пересмотрелся House of Cards)

2) Бунт интеллектуальных систем — это конечно профанация. Но как отметил г-н Голенков, главный враг человечества это, конечно, сам человек. И есть вероятность, что перехватив доступ, к скажем, к базе доступа боевых дронов (которые, например, убили террориста номер 1, после Бен Ладена, в Йемене, американцы очень успешно и ативно работают в этом направлении работают). Так вот, перехватываем доступ к дронам, всаживаем им алгоритм на уничтожение как можно большего количества людей. Самообучающиеся система. Machine learning. Artificial intelligence... и пишите письма. Выпускник БГУИР, конечно, может и не потянуть. Но вот например сумасшедшему гению, как из той очень симпатичной статьи на dev.by про русского гения, любителя марихуаны, перееховшего в США, и пишущего алгоритмы по detect детское порно, и думающего служить в армии это вполне по силам. Точнее немного суицидальных настроений и можно достаточно много людей с собой забрать.

3) По-поводу положения дел в Беларуси, тут видимо нужно с вами согласится. После того как СССР удачно выпилили из практически всех постиндустиральных бизнесов, у нас может система образования может только как-то и сохранилась (потому как задел был достаточно не плохой). Но вот переход всех этих тем в бизнес — тут действительно всё печально. Но нам сложнее. Например для развития Big Data не хватает доступа к данным Facebook и Google, и, конечно, финансирования. Обратите внимание на расходы США на оборону, и на такие компании как Palantir Techologis (там з.п. стажёра >$7K, больше чем в Facebook и Google). У нас же, насколько я знаю, только г-н Цуриков (см: DataVita) пытается что-то на коммерческие рельсы поставить.

Но, МВФ не зря относит Беларусь к странам с высоким человеческим потенциалам. У нас, конечно, не Silicon Valley, и даже не Израиль. Но когда тусишь в Азии, и видишь как люди могут тупить на ровном месте, начинаешь понимать что у нас не всё так печально как казалось.

6178553c3088be31671f8146ba91fd4b?1401052672

>> поставить палки в колёса Google с их self-driven car

Не думаю, что Маск сам себе злобный буратино. Он умный человек и хороший предприниматель. Tesla и Google не конкуренты, скорее наоборот, открываются хорошие перспективы взаимовыгодного сотрудничества. Электрокар Tesla с автопилотом от гугла? Дайте два! Мешать Google? Во первых, это бесполезно. Во вторых, это было бы тоже самое, если бы Intel ставил палки в колеса Microsoft.

У Маска бОльшие проблемы с автодилерами и производителями бензиновых авто.

Письмо скорее предостережение, что в некоторых разработках следует двигаться очень осторожно. Тему еще Гибсон в Нейроманте поднял (скорее всего, еще кто-то до него).

>> и акции просели с $286, в сентябре, до $192 - сейчас

Ни разу не финансист, но рискну предположить, что падение связано с плохими продажами в Китае и заявлением Маска об окупаемости только к 2020 году. И падающие цены на нефть тоже внесли свою лепту.

>> Но когда тусишь в Азии, и видишь как люди могут тупить на ровном месте, начинаешь понимать что у нас не всё так печально как казалось.

Но и не так хорошо, как могло бы быть. Сравнивать себя с теми, кто хуже - это тупиковый путь. Но, последнее время, позитивные подвижечки чувствуются. И это очень радует. Главное, чтобы государство не вмешалось и в очередной раз все не попортило. А то если вспомнить яндекс, акции которого за последний год упали на 60%... А это одна из самых прорывных компаний в СНГ. Свинью им знатную подложили!

Picture_1216?1356409833
AnthonyBY
– гребец в галеры

+4

На сколько я знаю, Tesla Motors не афелировано с Google, и относится больше к "PayPal mafia". И в short-term perspective между собой они всё же конкуренты. В долгосрочной перспектив сотрудничество может быть конечно и выгодно, но Tesla испытывает сейчас ряд трудностей. Цены на нефть я действительно не учёл в своих рассуждениях, хорошо что вы обознчили этой момент в комментарии.

Конспирологические теории говорят что Яндекс отжимают. Но российские компании сейчас конечно просели. Особенно пострадал Крым. После санкций (запретил работу с компаниями в США, oDesk и др.) многие мои коллеги были вынужденны были переехать в Краснорад или во Львов (в зависимости от убеждений). Опуская политику, нам может быть полезна новая военная доктрина России, которая допускает сотрудничество с _другими_ странами и расходы в 23 трл. рублей (over 9000 долларов) на оборонку. Учитывая что Шойгу с момента своего вступления в должность создаёт "роты программистов", нам может что-то перепасть. На практичное R&D так сказать. Тут уже нужно г-ну Кобякову стараться.

С точки зрения государства, точнее белорусского правительства, пространство для манёвра достаточно узкое. И как мне кажется, сейчас реально может реализовано всего лишь две функции:

— обновить законодательство в сфере инвестирования и юридических форм (добавить вестинг, краудафндинг и т.д.)

— пустить золотой дождь (как это сделал Израиль, или как сейчас пытается делать Россия со Сколково или ФРИИ).

Но денег нет. "Золотой дождь" не возможен. Остаётся лишь остались льготы для ПВТ, которые, кстати, нужно всячески беречь, чтобы оставить нам хоть какой-то шанс в постиндустреальной экономике.

Сравнивать себя со слабыми — конечно глупо. Но нужно брать примеры из удачных транфсормаций из развивающихся стран в развитые, а не слепо копировать практики развитых стран. Мне кажется, что нам подходить Кайдзен, шаг за шагом, по чуть-чуть, совершенствовать себя, и окружающую среду. И всё будет хорошо.

F48496fd055ce206f5dc8d7e50556644?1427577693
make_sense
– деливерю музончик в SoundCloud

Было бы здорово конечно следовать Кайдзен и шаг за шагом становиться лучше - но, я думаю, много людей в РБ хотят все сейчас и немедленно. Возможно, государственным мужам легче и выгоднее делать красивые презентации амбициозных проектов, супер инноваций и экономических чудес - а не презентации, что надо много работать, много думать как стать еще только на 1 процент эффективнее.

Picture_1216?1356409833
AnthonyBY
– гребец в галеры

+3

На сколько я вижу, у нас, на постсоветском пространстве, красочными презентациями в google docs с популистическими лозунгами кроме г-на Яценюка никто особо не страдает. Наши же белорусские пятилетки выгляд как: немного больше, немного быстрее, немного дешевле в себестоимости. То есть такой Кайдзен (он же Lean). В 2013 году под чьей-то мудрой консультацией вообще анонсировали год внедрения Lean:

"Проведение Года бережливости будет способствовать решению задач совершенствования организации производства, повышения производительности труда, качества продукции и услуг за счет оптимизации расходов, рационального использования ресурсов, исключения всякого рода необоснованных потерь, в первую очередь путем модернизации производства, внедрения новых технологий, техники и способов хозяйствования", - сообщает пресс-служба Александра Лукашенко.

Но из-за нюансов перевода, методологию не совсем правильно поняли, и на местах просто некоторое количество лампочек выкрутили, для того чтобы сберечь немного электричества.

Мне кажется, что в эту пятилетку правительство сделает ещё одну попытку запустить Индустриальный Парк. Ну и у тех же китайцев денег ещё немного в кредит взять, 15 млрд, чтобы в долю войти. Общественность, конечно, опасается не возможности интеграции с китайцами. Но вот Марк Цукербрег нормально интегрируется (жена Присцилла Чан), а белорусы — элитнная кровь (при участии лучших виноделов Литвы, Польшы, России и Израиля) не хотят, возмущаются, и всячески этому препятствуют.

Также предположу, возможность запуска приватизационных процессов, для участия в российских программах перевооружения ОПК. Ну и с США и Европой мы сейчас снова заигрывать начали, для создания видимости конкуренции на будущих аукционах, и чтобы хоть какие-то деньги выручить (за многие предприятия, конечно, можно ещё и доплатить, отобьем

потом на налогах и отчислениях в ФЗСН). Наш же любимый кораблик на плаву нужно как-то поддерживать.

Однако, вернёмся в нашу постиндустриальную айтишную песочницу. Так называемые айтишные эксперты, например г-н Зиссера, приводят в примеры продуктовые компании Viber и Wargamaing. Но если быть уже до конца откровенными, Viber — это пул частных израильских

инвесторов, и нашим ребятам лишь на опционах немного перепало. А Wargaming успешно заофшорился (каждый белорусский миллионер – 'киприот своей страны). Недавнее изменённый устава ПВТ, для продуктовых компаний, особой погоды не делает.

Как вести себя правительству не совсем понимаю. Представляю не возможным участия государства в высокорискованных проектов. Если мы видим что даже частные инвесторы идти туда опасаются. Подвергаю сомнению теорию о том что можно нанять мистических опытных людей из США или западной Европы, и мол они нам всё организуют.

По большому счёту, все эти прорывные технологии и хорошо масштабируемые бизнесы упираются в людей. И как удачно заметил г-н Белоусов (Parallels/Runa Capital) на похожий дискурс: Россия находится в серой зоне. И нужно уходить либо в белую либо чёрную. Чёрную — это когда запретить выезд. А белая — это когда конкурировать чтобы люди вернулись.

Как показывает опыт Аргентины, Бразилии, Индии и Сингапура, мы должны стремится не к тому чтобы люди не уехали, а к тому чтобы людям было выгодно вернутся. То бишь созданию благоприятных условий по ведению бизнеса и даже введению дополнительных льгот.

Самый оптимистичный сценарий на ближайшую пятилетку — это создание условий по привлечению предпринимателей из США, с их экспертизой в бизнесе, на создание стартапов на базе коворкинга ПВТ (больше тысячи кв.метров). Но для этого нужно что бы Валерий “ясное солнышко” Цепкало, в в костюме по Нью-Йорку из кабинета в кабинет ходил, а использование современных методов маркетинга. А именно, берём голубоглазую блондинку, с большой грудью, и гибкими моральными принципами, и сожаем в мини-офис в Сан-Франциско. Где она на все мероприятия ходит, раздаёт визитки, и устанавливает рол ап: “Беларусь — Восточная Европа. Умные и не прихотливые инженеры. Симпатичные восточно-европейские девушки. Березовый сок! .. и у нас в добавок ещё и чистенько всё”. Ловись рыбка большая и маленькая.

1. Экспертиза США в бизнесе.

2. Белорусские инженеры в доле.

...

PROFIT

Для реализации данной благой идеи, не требующей крупных вложений, нужно иметь заинтересованное лицо в АП, ибо нужно изменить законодательство, МИД и нагнуть имиграшку (льготные визы). Но так как мы вынужденны жить в горизонте планирования в пять лет — это никому не нужно. Ни ПВТ, ни нашим megacorp, ни даже правительству. Эффект от таких мероприятий исчисляется десятилетиями. Поэтому нахожу реализацию данного сценария маловероятной. И не думаю что в ближайщий цикл (5 лет) что-то изменится.

Думаю, что какие-то подвижки возможны лишь в следующим цикле, когда выгоды от постиндустриальнных бизнесов будут ощутимы в экономике, и они (выгоды) будет понятны не только нам, но и всей нашей многочисленной публике.

6178553c3088be31671f8146ba91fd4b?1401052672

>> И в short-term perspective между собой они всё же конкуренты.

Можете пояснить? Пока не вижу нишу, в которой у Tesla и self-driven car от Google в краткосрочной перспективе может возникнуть конфликт интересов. С бензиновыми авто вижу, результат - давление со стороны дилеров и запреты на прямые продажи в нескольких штатах, с авто на водородных ячейках тоже вижу - заявление Маска об их небезопасности. А что с автопилотом от гугла?

>> Мне кажется, что нам подходить Кайдзен, шаг за шагом

Кайдзен хорош для "горизонтального" развития. А нам нужен "вертикальный" скачок - смена вектора и приоритетов. Лучшее, что может сделать наше государство для IT в своем текущем виде - не мешать.

Picture_1216?1356409833
AnthonyBY
– гребец в галеры

1) Cогласно моему предположению, Tesla Motors, в краткосрочной перспективе, нуждается в инвестициях. Google, BMW, Volkswagen AG – разрабатывает self driven кар, и собственно на инвестиционном поле представляет конкуренцию.

2) Мне кажется что более правильно будет использовать термины "горизонатльный/вертикальный", а революционный — эволюционный. я сторонник эволюционного подхода. И свои предложения для возможно развития айти в Беларуси высказал в комментарии к make_sense. Посмотрите пожалуйста.

F48496fd055ce206f5dc8d7e50556644?1427577693
make_sense
– деливерю музончик в SoundCloud

+4

> Бунт интеллектуальных систем — это конечно профанация.

А почему так не думают как минимум несколько людей - ученые, инженеры, мыслители, которые занимаются AI? Наконец-то пошел прогресс в области AI, и в обозримом будущем такая ситуация потенциально возможна. Тут я нашел достаточно интересное обсуждение темы https://news.ycombinator.com/item?id=8892839

63637f4ec5ea136f9d17ce151501368e?1401052531

откуда информация, что не думают?

F48496fd055ce206f5dc8d7e50556644?1427577693
make_sense
– деливерю музончик в SoundCloud

Я имею ввиду, что "не думают о бунте интеллектуальных систем как профанации" - пример, Маск, Хокинз. Какой смысл Маску инвестировать в контроль над AI, если он так думает?

С момента, когда AI интеллектуально обойдет человека и осознает себя, обмануть человека ему будет так же как человеку обмануть собаку, а затем, по мере развития, как человеку обмануть червяка.

63637f4ec5ea136f9d17ce151501368e?1401052531
+1

а какие AI проекты у Маска?

F48496fd055ce206f5dc8d7e50556644?1427577693
make_sense
– деливерю музончик в SoundCloud

+2

А давай пойдем конструктивными путем, если ты не против, и я спрошу у тебя, что ты хочешь сказать своими вопросами, какое у тебя мнение по теме, Иван? Подвергаешь сомнению высказывания Маска? Так на 100 процентов никто и не уверен, к чему все приведет, но оценивать мнения талантливого инженера и известного физика как "профанация", что сделал уважаемый AnthonyBY, - это слишком сильное высказывание. Я имею привычку часто гуглить инфо о собеседниках, и вижу, что ты учился на AI, и, вероятно используешь / разрабатываешь в работе алгортимы ML. Очень интересно было бы узнать твое мнение или интересные линки по теме.

63637f4ec5ea136f9d17ce151501368e?1401052531
+1

я согласен со сказанным в статье (правда считаю её немного резкой в выражениях).

для меня решающим является пример: не смотря на все разработки гугла в области поиска/переводов - эти сервисы всё ещё очень далёки даже от запоминания (не то что осознания) контекста или истории запросов.

Гугл конечно не гарант, но хороший показатель где мы находимся.

системы конечно "смышлёные", "сообразительные" но никак не "интеллектуальные".

Меня просто немного удивило выражение "А почему так не думают как минимум несколько людей - ученые, инженеры, мыслители, которые занимаются AI?"

Я пытаюсь применять методы АИ для решения задач. Я наверное не учёный и не мыслитель. Надеюсь, что я инженер. Я думаю, что мы ещё очень далеки от создания компьютеров 5-го поколения.

Не мне оценивать знания Маска или Хокинза в данной области, но я к сожалению никогда не слышал, чтобы они занимались этой темой.

Picture_1216?1356409833
AnthonyBY
– гребец в галеры

+1

Иван, JFYI.

В марте 2014 года Маск вложил $40 млн в компанию Vicarious FPC, занимающуюся разработкой искусственного интеллекта. Основатели проекта планируют скопировать области коры головного мозга, которые отвечают за сенсорное восприятие, мышление, моторику, речь — и преобразовать в программный код.

В июне 2014 года предприниматель заявил, что компания, подобная SkyNet, может быть создана уже через пять лет — и человечеству стоит задуматься, как этому воспрепятствовать. В октябре на симпозиуме MIT предприниматель отметил, что, по его мнению, разработка искусственного интеллекта сродни призыванию дьявола — «призывающие демонов тоже всегда уверены, что смогут их контролировать». Некоторые исследователи поддержали его опасения, сказав, что страхи Маска — «не такое уж и сумасшествие».

F48496fd055ce206f5dc8d7e50556644?1427577693
make_sense
– деливерю музончик в SoundCloud

Интересно также почитать про blue brain project:

http://en.wikipedia.org/wiki/Blue_Brain_Project

http://bluebrain.epfl.ch/

попытку создать ИИ на основе реверс-инжениринга мозга приматов/человека.

Picture_69?1356409795

Один достаточно знаменитый человек, сказал одну очень интересную фразу. К сожалению не помню кто именно, но смысл фразы сводился к следующему: "Современные поисковые системы в совершенстве овладели одной вещью - делать вид что они понимают суть запроса"

Это я к вопросу о том уровне где сейчас находится гугл. Хотя подвижки конечно есть, взять хотябы их граф знаний.

Missing

Маск и Хокинг вплотную работают с ИИ, поэтому видимо знают о чём говорят. Маск собирает умные машины и ракеты, а Хокинг просто общается с миром посредством интеллектуальной системы.

Missing-male
+1

нуу что такое ИИ в прикладном смысле?

допустим гугл-кар ложно распознал дорогу, и свернул на тротуар, задавил человека. бунт роботов? как бы да, сам решил, сам наехал. а можно сказать что просто глюк.

Missing

Тут тонкий момент может быть - вот еще комп умеет только распознавать пешеходов на картинке, а добавить ещё немного мощностей и кода, и он начнёт делать совсем неожиданные вещи, например самостоятельно программы писать и самоорганизовываться. Пока что с настоящей самоорганизацией и самообучением железа люди не сталкивались, но это не за горами, имхо. Вот представь - например система, которая сумеет самостоятельно уязвимости искать, вирусы делать и по нету распространяться. Это сейчас заразу легко прибить, потому что человек полностью всё контролирует. А если компы научатся сами это порождать, обучаться, защищаться?

Оно сейчас фантастически звучит потому что ничего подобного пока не было, но на деле может быть и немного совсем осталось чтобы это реализовать.

E010d88290b34eb584db51c55c86c933?1356647216

Вспоминаем закон Мёрфи «если есть вероятность того, что какая-нибудь неприятность может случиться, то она обязательно произойдёт», так что ответ очевиден, однако это ведь не повод пассовать.

P.S. Слава роботам! :)

http://zhurnal.lib.ru/img/h/helltea/joinahp/morbo_antihuman.gif


Авторизуйтесь, чтобы оставлять комментарии

Использование материалов, размещенных на сайте, разрешается при условии прямой гиперссылки на dev.by. Ссылка должна быть размещена в подзаголовке или в первом абзаце публикации.
datahata — хостинг в Беларуси