Точка зрения АРМИТ и Новости

Список новостей

Предыдущая

Следующая

Бойтесь неучей на паровозе!

Бойтесь неучей на паровозе!

Тема восстания машин, захвата ими власти появилась не сегодня. Можно вспомнить фильмы Терминатор 3. Восстание машин (2003),  Восстание машин (2011) и т.д. Кстати, а Вы знаете, что в Москве, даже, есть Музей восстания машин ? А если вы наберете в Яндексе «Восстание машин против людей», то получите массу интересной информации.

Я не отношусь к тем, кому эта перспектива мешает спать. Но, если бы в 2019 году кто-то начал бы рассказывать нам, что уже в 2020 начнется история с COVID и к чему это приведет, многие из нас просто покрутили бы пальцем у виска. 

История с паровозом от братьев Люмьер (писанная в предыдущем сюжете от Александра Гусева), как мне кажется не совсем про то. Если Вы сидите в темном зале, а туда врывается паровоз или что-то на него смахивающее, то, конечно, пульс у Вас слегка участится (мягко говоря). Но это связано не с тем, что Вы не любите паровозы. Вы просто не ожидали увидеть его здесь и сейчас.

Мне кажется, что в случае с ИИ мы скорее имеем аналогию с атомным оружием, когда сначала ситуацией управляли ученые, а потом – политики.

В 80-х годах в самой на тот момент либеральной и умной (как мне кажется) газете – Литературной газете» - развернулась дискуссия именно на эту тему – а что будет, если машины (роботы) взбунтуются и захватят власть? К сожалению, ссылку дать не могу – не помню. В одном выпуске публиковали пессимистический прогноз, в следующем – оптимистический (типа видения Александра Гусева), потом опять про то, что будет хреново, потом опять – про то, что не будет. И т.д. Получилась очень содержательная полемика. Закончилась она очень интересной точкой зрения одного из профессионалов в этой сфере. Суть ее состояла в следующем: давить саму идею надо в зародыше. Грубо говоря, как только в «мозг» машины приходит мысль «А почему собственно этот двуногий мною командует?», срабатывает некий «рубильник», который обнуляет помять машины и полностью стирает весь ход «рассуждений», приведший к самому вопросу о самостийности. Как утверждал автор, серьезные разработчики это понимают и подобный «рубильник» предусматривают.

А как обстоят дела сейчас? Кто-то может ответить за всю ИИ-тусовкку? Поэтому в вопросе о машинах-редисках на первый план могут выйти не машины, как таковые, а чиновники, которые этими вопросами управляют. Представьте себе фирму, которая успешно занимается ИИ. И, даже, получает гос. финансирование. В какой-то момент те, от кого зависит распределение финансов (типа Елены.Бойко или Павла Пугачева с их могучим интеллектом и не очень понятным образованием), приходят к выводу, что руководитель этой фирмы слишком умный и не ко всем их советам прислушивается. Его быстренько убирают и назначают что-нибудь типа Татьяны Зарубиной – некомпетентной, но очень покладистой и числящейся экспертом в области ИИ (Хрюшизм шагает по стране!). Надо продолжать, что будет дальше?

Поэтому, пользуясь красивой аллегорий А.Гусева с паровозом, хочется уточнить, что проблема не в паровозе, который почему-то ездит где ни попадя, а в том, кто им управляет. И вот здесь 100-процентного оптимизма нет.

Готов опубликовать и другие точки зрения.

Михаил Эльянов
Президент АРМИТ