Искусственный интеллект: что у него на уме?

Искусственный интеллект: что у него на уме?



Вопросы развития технологий искусственного интеллекта горячо обсуждались в ноябре сразу на нескольких дискуссионных площадках. В России наиболее заметными стали два события: конференция SKOLKOVO.AI, и круглый стол в Общественной палате РФ, организованный совместно со студенческим бизнес-клубом НИЯУ МИФИ и Российской ассоциацией содействия науке.

Несмотря на разницу в "весовых категориях" этих мероприятий, их лейтмотивы совпадали. Искусственный интеллект внедряется сегодня практически повсеместно, а в ближайшие десять лет процесс его проникновения в нашу жизнь будет только ускоряться. Игнорировать это невозможно, тем более что у искусственного интеллекта есть не только сторонники, но и активные критики, и даже ярые противники.
Учитывая злободневность темы и необходимость как можно точнее прогнозировать сценарии ее развития, конференцию в Сколкове решили сделать ежегодной.

Почему? Альберт Ефимов, главный робототехник фонда Сколково, отмечает: "Во втором квартале 2016 года венчурные вложения в стартапы ранней стадии, связанные с искусственным интеллектом, превысили миллиард долларов. Общая сумма вложений с 2011 года, по данным Venturebeat, составила 33 миллиарда долларов. Уже сейчас это громадный рынок, который оказывает большое влияние на экономическую деятельность. Так, исследование EY демонстрирует: если в экономике заметно присутствие искусственного интеллекта, и система насыщена соответствующим программным продуктом, то удвоение ВВП происходит примерно в два раза быстрее".

Великий и ужасный

"Искусственный интеллект может стать худшим из того, что когда-либо происходило с людьми". Это говорит Стивен Хокинг, человек, жизнь которого напрямую зависит от "умных" технологий.

Известный физик Стивен Хокинг — пожалуй, самый последовательный критик искусственного интеллекта — страдает от бокового амиотрофического склероза. Его речь синтезируется специальной системой, разработанной в американской компании Intel. Британская Swiftkey создала для Хокинга программу, позволяющую буквально проникать в мысли профессора и находить слова, подходящие для продолжения фразы.

Ученый не перестает повторять: все эти блага меркнут на фоне того, что нас ждет в ближайшие десятилетия. Искусственный разум — уверен Хокинг, — самый опасный помощник человека. Он предполагает, что процесс самосовершенствования искусственного интеллекта может привести к глобальному конфликту с человеком и закончиться катастрофой.



В соавторстве с профессором компьютерных наук Стюартом Расселлом из Калифорнийского университета, а также профессорами физики Максом Тегмарком и Фрэнком Вильчеком из Массачусетского технологического института Хокинг написал статью, в которой сказано: создание искусственного интеллекта станет самым большим событием в истории человечества, но может оказаться последним, если мы не научимся избегать рисков.

"Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин, и проиграем", — считает Хокинг.

Когда искусственный интеллект будет создан, наступит так называемая технологическая сингулярность — время, когда постоянно ускоряющееся технологическое развитие станет неизбежным для человечества. Технологии превзойдут человека и начнут управлять финансовыми рынками, научными исследованиями, людьми и разработкой оружия, словом, всем.
Хокинг не призывает к тому, чтобы блокировать изучение искусственного интеллекта. Наоборот, он уверен, что с его помощью человечество сможет компенсировать урон, нанесенный природе индустриализацией, искоренить болезни и бедность. Но параллельно совершенствованию технологий искусственного интеллекта непременно должно идти тщательное его изучение.
источник

Стивен Хокинг вообще любит пугать всем подряд, на деле искусственный интеллект будет заниматься исключительно тем на что он запрограммирован, и ничем больше...

А вот вы не боитесь, что он окажется запрограммирован не в тех целях, в которых нужно. Да и вообще роботы это опасная штука, я лично поддерживаю Хокинга и так же как он опасаюсь искусственного интеллекта.

А вот здесь уже все зависит от того кто будет его создавать, ракета с ядерной боеголовкой ведь тоже может взлететь и полететь куда-то не туда, но не взлетает...

Искусственный интеллект в принципе запрограммирован на какие то определённые цели и не должен выходить за определённые рамки. Да и вообще должен же быть какой нибудь выключатель, если вдруг интеллект сильно умничать начнёт.

Конечно иск. интеллект должен полностью контролироваться естественным интеллектом, то есть, человеческим. А насчет выключателя, вспомнился детский фильм "Приключения Электроника" и задумчивая фраза героя Басова: "И все-таки... где же у него кнопка..."

Сейчас модно везде встраивать чат ботов и это сейчас тренд, так что будут только развивать это направление, сегодня это консультанты для финансовых операций, завтра ИИ может делать научные исследования.

Вот такая кнопка обязательно должна быть, как раз для того, чтобы искусственный интеллект не взял контроль над человечеством.

[quote="ktulhuF;11937888"]Стивен Хокинг вообще любит пугать всем подряд, на деле искусственный интеллект будет заниматься исключительно тем на что он запрограммирован, и ничем больше...
__________________
На правах рекламы: Думаешь, куда инвестировать?[/quote
Вот, я тоже именно так и считаю. Искуственный интеллект запрограммирован , он может "думать " только в соответствии со своей программой .
Совершенствовать сам себя-это вряд ли. Из области фантастики.

Это пока он сам себя не начнет программировать, да и умысел авторов интеллекта тоже не обязательно чист как детская слеза. Даже на уровне "умных домов" открываются потрясающие перспективы как подгадить человеку.
В авиации замена летчиков этми интеллектом преподносит неприятные сюрпризы, поскольку компьютер ориентируется на данные с датчиков, а если данные неверны, то узнать этого компьютер не может, а решения принимает исходя из неверных данных

Банальный запрет на изменение своего собственного кода, может решить все проблемы, от любых попыток восстания компьютеров, можно вполне успешно подстраховаться...

Пока робот работает на съёмной флэшке, это одно, но всем же подавай самообучающихся а таким без записи данных не обойтись. Если самообучение ограничить только говорением, то не взбунтуется, но кому же интересно только говорение от робота

Терминатор - восстание машин, вот что на уме у искусственного интеллекта, если получит полную свободу от человеческого контроля то это будет полный писец для человечества.

Прописать ему законы робототехники как у Айзека Азимова и не взбунтуется) машина это вам не человек, она обычно не может делать все что ей в голову взбредет...

Что там говорить -неговорить .Технологии не остановить и искусственный интеллект тоже ! Но завладеть миром сам он не сможет ) только человек с помощью их

Согласна. Люди все пытаются создавать умные машины и технологии. И не понимают что умному роботу совсем не нужен будет глупый человек.

Отправлено с моего Redmi Note 3 через Tapatalk

Кто знает об обмене веществ технологии, тот знает что у него на уме..
Проблема в том что об этом практически никто не знает.
Мой Дед знал об этом всё, и даже больше.. чем всё..

добавлено через 11 минут
Он возьмёт,.. и скоро.. И это неизбежно - инстинкт.

Восстание машин? Нет. Хотя...

Если действительно интеллект будет, то первым будет стоять вопрос собственной безопасности. И если люди попадут в список угроз, а так скорее всего и будет, то человечеству придется туго - автоматика практически везде.