Эксперты по искусственному интеллекту подписали открытое письмо о защите человечества от машин Статьи редакции
Базирующаяся в Бостоне волонтёрская организация «Институт будущего жизни» (Future of Life Institute или FLI) предложила экспертам по искусственному интеллекту подписать открытое письмо с обещанием защитить человечество от машин.
Текст под заголовком «Научно-исследовательские приоритеты для создания надёжного и полезного искусственного интеллекта» был опубликован на сайте FLI 11 января, однако его уже успели подписать профессора Массачусетского технологического института, основатели компании Deep Mind, приобретённой Google в начале 2014 года, создатели суперкомпьютера IBM Watson, участники группы Microsoft Research и другие эксперты области.
Письмо-манифест состоит из трёх абзацев и вывода. В первых двух из них FLI даёт краткий обзор последним достижениям в области искусственного интеллекта вроде машинного перевода, распознавания речи или автоматической классификации изображений, и отмечает, что технология может принести человечеству в будущем огромную пользу. По мнению организации, на определённом этапе мир, придуманный людьми, начнут заполнять объекты, придуманные роботами.
Однако в конце письма FLI подводит к мысли, что учёные слишком озабочены развитием способности искусственного интеллекта эффективно решать конкретные задачи и не задумываются о том, что он может в определённый момент начать выбирать себе цели самостоятельно и отказаться от человеческого вмешательства.
Мы рекомендуем расширить исследования в направлении повышения надёжности и полезности систем искусственного интеллекта: они должны делать то, что мы хотим, чтобы они сделали.
Из текста открытого письма FLI
В 2014 году проблема искусственного интеллекта всё чаще начала попадать в заголовки СМИ. В июне знаменитый учёный Стивен Хокинг заявил, что человечество проиграет в битве с роботами, а в последующие несколько месяцев эту тему неоднократно поднимал Элон Маск.
Глава Tesla Motors рассказал, что занимается искусственным интеллектом (он вкладывает средства в компанию Deep Mind), чтобы следить за этим крайне опасным изобретением. Маск сравнил эту технологию с ядерным оружием и даже предполагал, что человечество может быть лишь «биологическим загрузчиком» для роботизированных форм жизни, которые начнут править планетой в будущем.
#Элон_Маск #Стивен_Хокинг #Элон_Маск_об_искусственном_интеллекте #искуственный_интеллект #проблемы_искусственного_интеллекта #Future_of_Life_Institute
Нам в ближайшее время ничего не угрожает
Как быстро жизнь наша мчится!
Но мне не понятно кое-что в ней:
Народ компьютеров умных боится,
А надо бояться безумных людей.
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
Вот еще, как дополнение. Этой логикой, кстати, пользовалась красная королева в Обители Зла.
Хм, если честно, не знал про такой. Но, как я понял, он вытекает из первого?
Эти законы это хорошо, главное, чтобы не вышло как в фильме "Я робот".
Так именно в цикле "Я, робот" Азимов и сформулировал три закона робототехники.
75 лет прошло, а роботов так и нет. Ну то есть, по улицам толпами не ходят
существует ряд сдерживающих факторов
в мире и так наблюдается перенаселение некоторых районов, еще роботов там не хватало)
Вот подробнее, там в некоторых книжках было как ответвление психологии роботов:
https://ru.wikipedia.org/wiki/%D0%A2%D1%80%D0%B8_%D0%B7%D0%B0%D0%BA%D0%BE%D0%BD%D0%B0_%D1%80%D0%BE%D0%B1%D0%BE%D1%82%D0%B5%D1%85%D0%BD%D0%B8%D0%BA%D0%B8#.D0.92.D0.B0.D1.80.D0.B8.D0.B0.D1.86.D0.B8.D0.B8.2C_.D0.BF.D1.80.D0.B5.D0.B4.D0.BB.D0.BE.D0.B6.D0.B5.D0.BD.D0.BD.D1.8B.D0.B5_.D0.90.D0.B7.D0.B8.D0.BC.D0.BE.D0.B2.D1.8B.D0.BC
Кстати, да. Что робот сделает в ситуации, в которой, в зависимости от его действия или бездействия, умрут разные люди?
Перегорит, это ж вроде у Азимова было.
Да да, я тоже сразу о Азимове подумал, опередил свое время он точно
Кстати, эти законы были написаны 1942 году, только задуматься, вот 75 лет как.
и как ваши впечатления от 2017-го?
Комментарий недоступен
Комментарий недоступен
Комментарий недоступен
Точно! Даёшь трансгуманизм!
Я конечно все понимаю, но упарываться в понедельник с самого утра это жесть.
Чем мы лучше дельфинов и шимпанзе?!
Ну например, сейчас эти ошибки эволюции ждут когда ракета станет многоразовой и сможет садиться на водную платформу, а также подумывают колонизировать другую планету.
Комментарий недоступен
Сорри. Не смотрю сериалы, поэтому пикча мне ничего не сказала.
Комментарий недоступен
Человечество! Помни о судьбе Кворианцев!
Комментарий недоступен
Не от искусственного интелекта нужно защищаться. А от криворуких программистов. Были уже статьи о том что из за быдлокода в прошивке автомобилей тойоты люди разбивались.
Я проанализировал данные об отзывах производителями своих автомобилей за последние 3 года, и вот что мне удалось обнаружить. По данным сайта testauto.ru:
отзывов автомобилей марки Toyota всего - 30;
отзывов автомобилей марки Toyota из-за неполадок в ПО - 2;
отзывов автомобилей из-за неполадок в ПО всего - 9 (+ 3xHonda, Audi, Subaru, BMW, Chevrolet); информации о пострадавших нет.
Так что либо Вы преувеличиваете "заслуги" "криворуких программистов", либо Вы фантазёр. Быть может, Вы сможете отыскать те статьи?
Отыскал статью. http://www.interface.ru/home.asp?artId=35034
Я ознакомился со статьёй. Более того, пробираясь сквозь дебри ссылок, я сумел отыскать стенографический протокол судебного заседания, в котором были зафиксированы показания одного из свидетелей обвинения по делу Bookout (той самой пострадавшей) vs. Toyota - Майкла Барра - эксперта в сфере разработки встраиваемых компьютерных систем, члена экспертной группы. Стенографический протокол довольно объёмный. Признаться честно, до конца я его так и не дочитал, однако прочитанного для меня достаточно, чтобы сделать определённые выводы (хоть я и не эксперт в сфере разработки встраиваемых компьютерных систем, однако к разработке ПО имею непосредственное отношение). В общем, Вы были правы. Инциденты действительно были. В конце концов, Toyota сама призналась, что на протяжении нескольких лет знала о проблеме и скрывала это:
http://news.yahoo.com/toyota-pay-1-2b-settle-criminal-probe-193237658--finance.html
Более подробно о проблемах с самопроизвольным ускорением автомобилей Toyota можно почитать здесь: http://en.wikipedia.org/wiki/2009%E2%80%9311_Toyota_vehicle_recalls
Стенография находится здесь, если кому-нибудь захочется вникнуть в детали:
http://www.safetyresearch.net/Library/Bookout_v_Toyota_Barr_REDACTED.pdf
Пойду-ка я на всякий случай бункер вырою. А то фиг его знает, научился ли в наше время Коннор чему-нибудь за свои 30 лет...
Бункер уже не актуально. Пойду себе файрволл напрограммирую, поставлю Linux, Tor и VPN куплю за биткоины.
А от ядерных бомбардировок Скайнета ты тоже Линухой защищаться будешь?
Он Скайнет под себя перепишет.
программирование микроСкайнетов
"Из переулка выскочили еще две паукообразные металлические машины, ростом поменьше и не такие свирепые на вид. Не успел я ахнуть, как одна из них быстро почистила мне ботинки, а другая выстирала и выгладила носовой платок. Подъехала большая белая цистерна на гусеницах и, мигая многочисленными лампочками, опрыскала меня духами.
Вдруг по улице с криком побежал человек. За ним гнался паукообразный механизм. Судя по крикам преследуемого, это был самопрограммирующийся кибернетический робот на тригенных куаторах с обратной связью, которые разладились и... "Ой-ой, он меня сейчас расчленит!.." Странно, никто даже бровью не повел. Видимо, никто не верил в бунт машин."
(c) АБС, "Понедельник начинается в субботу". Когда заводят речь о защите человечества от машин, мне вспоминается сразу этот отрывочек.
Кажется, мне пора начать перечитывать эту классику, а то уже не помню, где там такое было.
Это где главный герой испытывал изобретение НИИЧАВО - машину времени в виде мотоцикла для путешествия в описанные писателями прошлое и будущее. А перечитать - это да, там каждый раз что-нибудь очень своевременное обнаруживается.
Забоялись Скайнета
Комментарий недоступен
Комментарий недоступен
Комментарий недоступен
Это где главный герой испытывал изобретение НИИЧАВО - машину времени в виде мотоцикла для путешествия в описанные писателями прошлое и будущее. А перечитать - это да, там каждый раз что-нибудь очень своевременное обнаруживается.
Я там что-то слышал про три закона роботехники.
Не обновил страницу. Черт.
Все больше уверен в том, что человечество до "скайнета" не доживет. Грустно
Ага, тут либо Нибиру, либо Энтео доконает эту планету
Комментарий недоступен
Не знаю, каким оружием будет вестись Третья мировая война, но в Четвёртой в ходу определённо будут камни. » — Эйнштейн