РусУкр
22.02.2017 г.
Путин не думал ни о "русском Крыме", ни о "бандеровцах", - экс-депутат Госдумы
"Позитивное начало недели": Сеть рассмешил ироничный снимок пышногрудой нардепши (ФОТО)
Крах режима Путина: Известный росийский активист указал на тень надежды
Пономарь доступно пояснил ситуацию с Фирташем
"Почти чистосердечное признание Кремля по Донбассу", - журналист
Античным барельефам в Пальмире напечатали протезы на 3D-принтере
Политические риски добрались и до развитых рынков, - ИноСМИ
Дмитрий Быков: Даже воюющая Украина по сравнению с Россией - островок стабильности
В Румынии отменили постановление об ослаблении борьбы с коррупцией
Reuters: Главный стратег Белого дома предупредил о "враждебной" политике США по отношению к ЕС
Манифестация украинцев в Португалии сорвала доклад посла РФ о роли России в мире
Янукович заявил, что не просил вводить войска в Украину
ЦРУ заморозило программу поддержки сирийских повстанцев
«Манчестер Сити» и «Атлетико» сыграли первые матчи плей-офф Лиги чемпионов
Кобзон опроверг наличие паспорта "ДНР"
ФГИ: Компания Ахметова не выполнила некоторые обязательства по приватизации Укртелекома

21.02.2017 г.
Скандальный журналист Майло Яннопулос уходит из Breitbart News
Андрей Макаревич: Выпускной дочери отметим в домашнем кругу, а деньги отдадим на благотворительность
«Укроборонпром» опроверг информацию о поставках военной продукции в Россию
В Нидерландах нижняя палата парламента одобрила легализацию выращивания марихуаны
Новости мира: Британский парламент одобрил свой "закон Магнитского"
Стюардессы "Аэрофлота" подали на компанию в суд из-за дискриминации
Трамп попытается заключить сделку с Россией, - Белый дом
В России учредят премию имени Доктора Лизы
СБУ задержала контрактника, везшего на Майдан 12 автоматов и снайперскую винтовку
Игра с "нулевой суммой" не получится: Евросоюз должен понять, что Украина - “решающая возможность”, - немецкий эксперт
В Одессе задержан военный-контрактник, который планировал завезти 12 автоматов на Майдан, – Матиос (ФОТО)
Банкопад в Украине продлится: кто на очереди
Даркнет, Tor, оружие и наркотики: темная сторона интернета
Новости сегодня: Европа меж двух огней, или три опасные супердержавы: Итоги Мюнхенской конференции, – The Guardian
"Русский" - синоним путинской войны, - Саша Сотник
Австрийская полиция арестовала Фирташа в здании суда
Скандальный российский биатлонист устроил заезд на тележках в аэропорту (ВИДЕО)
Новым советником Трампа по нацбезопасности стал генерал-русофоб, — The New York Times
В атмосфере Земли зафиксировали повышение уровня радиоактивного йода
Удивительные бильярдные трюки каскадеров стали новым хитом YouTube (ВИДЕО)
Признание Путиным "документов ОРДЛО" - продуманный шаг Кремля, - Боровой
Ученые: Треть российской территории уйдет под воду
Украинским аптекам запретили продавать препарат «Ноотропил»
Ситуация на фронте: за день зафиксировано 35 обстрелов украинских позиций, один военный ранен, - штаб АТО
В Киеве попрощались с известным украинским режиссером Максимом Паперником
Плохие новости для РФ из США
Боровой рассказал, как Путин пытается уйти из Крыма, не уходя из Крыма
"Зачем нам эти неудачники?" Ёлкин нарисовал яркую карикатуру на Путина
Mercedes-Benz удивит Женевский автосалон новым седаном
Составлен рейтинг городов с наибольшими пробками в час пик (ИНФОГРАФИКА)
Последние новости: СБУ перехватила переговоры спецслужб РФ о дестабилизации в Украине (ВИДЕО)
Российский чемпион мира по мотокроссу покончил жизнь самоубийством
Новости науки: ученые NASA требуют предоставить Луне статус планеты
Полуостров страха. Как за три года изменился Крым
Фирташ спасет себя, если "сдаст" руководителей России, - Геращенко
Фанаты объединили в одном клипе финальные сцены лучших оскароносных фильмов (ВИДЕО)
КГГА призывает родителей быть более внимательными к детям из-за активизации «групп смерти»
Затертая колода "хитрых планов": Власти РФ окончательно загнали себя в тупик
Смерть Чуркина не связана с разговором с Путиным: Боровой назвал истинные причины
В МИД Украины спокойно ответили на российскую истерику по Чуркину
Новый клип Ланы Дель Рей стал хитом YouTube (ВИДЕО)
Политолог рассказал, что похоронит "минский процесс"
Вторую партию билетов на "Евровидение-2017" раскупили за 5 минут
Десять россиян пришли в Донбасс побегать: Блогер "порвал" сеть пророчеством для Путина в стихах
Все новости »

Может ли искусственный интеллект угрожать человечеству: описаны возможные сценарии

Новости общества, 17.10.2016
 
Печать Отправить на почту

 

 

Невролог и философ Сэм Харрис описывает сценарии, которые хоть и кажутся страшными, но вполне могут произойти с нами, как с видом.

И в самом деле, очень трудно представить, как Искусственный Интеллект (ИИ) будет нас уничтожать, но всё же, есть люди, которые пытаются перенестись будущее в настоящее и предугадать дальнейшие возможные пути развития человечества. И вот о чём нам стоит задуматься перед тем как над этим же вопросом задумается ИИ, информирует news.eizvestia.com.

Что выберет искусственный интеллект в тот момент, когда он стоит перед выбором?
</strong>
Одна из
главных проблем, с которой столкнется человек с развитием ИИ, это как заставить вычислительные системы принимать не просто рассудительные решения, но и эмоциональные. Потому что ИИ может с легкость выбрать убийство всех людей, для того, чтобы спасти другие виды. Этот как если бы на вас напал бандит с ножом, а вы вытащили ваш пистолет. И в этот момент, вместо того чтобы защитить хозяина, ваша верная собака нападет на вас просто потому что у вас в руках более опасное оружие…

content_2__econet_ru

А что будет если двери будут одинаковы? За дверью номер один …

Учитывая то, насколько ценными считаются данные разведки, что случится если с ними начнет работать ИИ? Что может за этим последовать? Полномасштабная ядерная война? Глобальная пандемия? Джастин Бибер станет президентом Соединенных Штатов? Дело в том, что ИИ может просто уничтожить цивилизацию, в том виде, в котором мы её знаем. Уже сегодня многие говорят, как сильно и быстро деградирует общество. А что будет если об этом подумает ИИ и решит, что проще будет уничтожить человечество, а не продолжать технологическое развитие, которое только ухудшает ситуацию?

А что за дверью номер два?

Единственной альтернативой является то, что мы год за годом продолжаем совершенствовать наши интеллектуальные машины. В определенный момент, мы будем строить машины, которые умнее, чем мы, и как только у нас появятся машины, которые умнее нас, они начнут совершенствовать себя. И тогда мы рискуем, создать «интеллектуальный взрыв», и что этот процесс может уничтожить всех нас. Речь идет о том, что мы будем строить машины, которые гораздо более компетентны, чем мы, что малейшее расхождение между их целями и нашими собственными может привести к полному нашему уничтожению, как вида.

Насекомые XXI века

Просто подумайте о том, как мы относимся к муравьям. Мы не ненавидим их. Мы не сходим с нашего пути, чтобы нанести им вред. Мы перешагиваем через этих маленьких работяг не обращая на них внимания, но всякий раз, когда их присутствие серьезно конфликтует с одной из наших целей, скажем, при строительстве здания, мы уничтожаем их без малейшего сожаления. Речь идет о том, что мы в один прекрасный день построим машины, которые, независимо от того являются ли они сознательными или нет, могут начать относиться к нам как к муравьям.

Интеллект является результатом процесса обработки информации в физических системах. Мы уже создали узкий интеллект для наших машин, и многие из них выполняют определенные функции на уровне или даже лучше человека. Интеллект является либо источником всего того, что мы ценим, или оружием, которое мы используем чтобы защитить все, что мы ценим. Это наш самый ценный ресурс. У нас есть проблемы, которые мы обязаны решить. Мы хотим победить СПИД, диабет и рак. Мы хотим построить по-настоящему рабочие экономические системы. Мы хотим улучшить климат на планете. А что будет делать ИИ, если у него просто отсутствует такое понятие как глубокое мышление?

Где мы находимся?

Человечество ещё не добралось до пика интеллекта. Это очень важно понять. Это то, что делает наше положение настолько нестабильным, и что делает наши интуитивные риски проигрышными. В подавляющем большинстве случаев, потенциал человеческого интеллекта простирается гораздо дальше, чем мы в настоящее время представляем себе. А что если мы построим машины, которые будут умнее нас? Они же смогут гораздо лучше просчитывать будущее и лучше определять то место где они находятся, чтобы в итоге выбрать направление дальнейшего движения.

Скорость интеллекта

Представьте себе, что человечество построило Сверхразумный ИИ, который при этом не умнее среднестатистической группы ученых. Единственное отличие заключается в том, что его электронные схемы функционируют примерно в миллион раз быстрее, чем наши, биохимических. В результате эта машина «думает» примерно в миллион раз быстрее, чем сознание, которое его построило. Таким образом, оставив ИИ работать в течение недели, мы обнаружим, что он выполнил 20000 лет интеллектуального труда в человеческом эквиваленте. Что нам делать с такой скоростью обработки данных? Тормозить скорость работы ИИ до человеческого уровня?

Лучший вариант развития событий

На самом деле, как вас так и меня больше всего волнует то, как будут развиваться события в идеальной среде. Представим, что мы додумались и сконструировали Сверхразумный ИИ, который не имеет проблем с безопасностью. Это как если бы мы были создали оракула, который ведет себя точно так, как было задумано. Что же мы получим? По сути, мы создадим идеальное трудосберегающее устройство. Итак, мы говорим о конце нудного человеческого существования. Класс!!! Также можно сказать, что создание подобной машины станет концом всего интеллектуального труда. Многим может показаться, что это хорошо, но спросите себя, что произойдет в таком случае? Даже сейчас, при незначительном развитии ИИ, мы наблюдаем рост имущественного неравенства и безработицы, которой мы никогда ранее не наблюдали. Мы не готовы делиться своим богатством с другими, и скорей всего миром будут править несколько триллионеров, в то время как оставшаяся часть человечества будет полностью зависеть от их воли, а точнее от воли подвластного им ИИ, который будет действовать сверхрационально не жалея никого.

Следующая гонка вооружений

Представим, что у каждой страны в мире есть ИИ, который просчитывает идеальный сценарий для победы в глобальной войне. Неважно какая это война, наземная, в воздухе или вообще кибервойна, победный сценарий получат все. По сути, ИИ создаст для каждой сверхдержавы стратегию победы, которая в итоге приведет к концу человечества, потому что это будет война Искусственных Интеллектов против человечества.

«Не волнуйтесь и не засоряйте вашу хорошенькую головку этими глупыми вопросами…»

По сути, ИИ создаст общество нарцисов-растаманов. Don`t worry, be happy. Именно это завуалировано говорит ИИ облегчая нам жизнь уже сегодня. Уже сегодня мы чувствуем, как ИИ в его зачаточном виде делает нас глупее, а что будет через 50 или 100 лет, когда, как нам обещают уже будет ИИ превосходящий интеллект человека. Если интеллект занимается лишь вопросом обработки информации, и мы продолжаем совершенствовать наши машины, то не думаете ли Вы что мы уже создали суперинтеллект? Мы уже сегодня замечаем, что ИИ небезопасен, например ИИ в навигаторах, который заставляет людей выезжать на встречную полосу и прыгать на автомобиле в озера. И я говорю о том, что у нас всего лишь 50 лет, чтобы встретиться лицом к лицу с главным врагом человека — сверхинтеллектом.

Технологии прямо в мозг

Машины в будущем не могут не разделять наши ценности, потому что они будут в буквальном смысле продолжением нас самих. Они будут вшиты на наш мозг, и мы, по сути, станем их лимбической системой. Подумайте о том, что вы что-то вставляете себе в мозг, что может считывать информацию и обрабатывать её по неизвестным вам алгоритму. Вы иногда не доверяете своему мозгу, а тут микросхема. Но с приходом сверхразумного ИИ, встраивание чипов себе в мозг, будем самым безопасным и благоразумным способом идти вперед. Но вопрос безопасности данных, который мы не можем решить даже сегодня, заставляет задуматься, что всё это как-то неправильно.

Мы должны рассмотреть эти сценарии и действовать

У человечества нет решения проблемы ИИ, мы можем предложить и просто рекомендовать. Человек должен изначально строить ИИ с учетом принципа «не навреди человечеству». Когда вы говорите о Сверхразумных ИИ, который может внести изменения в себя, кажется, что для того, чтобы приступить к его созданию, мы, как вид, должны решить все наши внутренние проблемы, иначе мы будем обречены. Мы должны признать, что мы находимся в процессе создания своего рода бога. Представьте себе, что вы живете под пристальным взглядом Бога, которого вы физически ощущаете и что ходить на исповедь вам придется не в церковь, а к своему мобильному устройству.


По материалам econet.ru

В данный момент Вы читаете новость "Может ли искусственный интеллект угрожать человечеству: описаны возможные сценарии". Вас также, возможно, заинтересуют другие последние новости Украины и мира на eizvestia.com




  • Азаров реформирует налоги (10 лет назад) Азаров реформирует налоги (10 лет назад)

    Правительство утвердило концепцию реформирования налоговой системы до 2015 г. Документ содержит весь набор уже озвученных представителями Кабмина налоговых идей, но может остаться лишь очередной декларацией

  • Регионалы оставят Ющенко без денег (10 лет назад) Регионалы оставят Ющенко без денег (10 лет назад)

    После принятия закона «О Кабинете министров» только правительство может инициировать изменения в уже принятый госбюджет, сообщил «і» председатель парламентского регламентного комитета Александр Ефремов (Партия ...

  • «Нефтегаз» остался без головы (10 лет назад) «Нефтегаз» остался без головы (10 лет назад)

    Кабинет министров уволил Владимира Шелудченко с должности председателя правления НАК «Нефтегаз Украины». Об этом «і» сообщил вчера премьер- министр Украины Виктор Янукович

  • Zakar Resources просит слова (10 лет назад) Zakar Resources просит слова (10 лет назад)

    Судьба закарпатского золота и выбор инвесторов для его добычи не дают спокойно спать украинским чиновникам. Как вчера стало известно «і», 10 февраля вице-премьер Андрей Клюев дал поручения Минпромполитики, Минприроды, ...

Новости общества

Ученые нашли на Земле седьмой континент (3841)

Ученые рассказали про масштабы насилия в древней Северной Америке (3188)

Ролик о побеге мальчика из города толстяков стал хитом сети (ВИДЕО) (3101)

Ученый раскрыл тайну "пятен Роршаха" (2939)

Чудеса природы: в Сингапуре зафиксировали огненную радугу (ФОТО) (2753)

Испанские завоеватели бессознательно уничтожили цивилизацию ацтеков, - ученые (2428)

Названа победительница конкурса "Мисс Германия" (ФОТО) (1648)

Погода в Украине: потеплеет до +14 (1442)

Темы, которые категорически не рекомендуется обсуждать с коллегами по работе (1330)

"Вас использовали как прокладку", - Ян Валетов обратился к террористам ОРДЛО (1224)

В начале недели в Украину заглянет весна, - синоптики (1130)

В "Старбаксе" отказались написать имя Путина на стакане с кофе (1022)

Обнаружена пещерная жизнь возрастом около 50 тысяч лет (1002)

Обычаи: как нужно встречать Масленицу (927)

Чем отличается женская дружба от мужской, - исследование (896)

Рейтинг новостей

"Вірусне відео": Дівчата, які виганяли з дому мишу, стали зірками YouTube (ВІДЕО) (7278)

У Дніпрі зловили рибу, яку ніхто вже не бачив 30 років (5872)

Чуркин умер после эмоционального разговора с Путиным (5105)

Дитинчата панди, що відмовляються митися, зворушили мережу (ВІДЕО) (5071)

Ученые: Треть российской территории уйдет под воду (4999)

Новости технологий: NASA созывает экстренную пресс-конференцию, посвященную внеземной жизни (4670)

Плохие новости для РФ из США (4141)

Смерть Чуркина не связана с разговором с Путиным: Боровой назвал истинные причины (3946)

Кремль готовит в оккупированном Крыму "повторный референдум"? (3322)

Ученые рассказали про масштабы насилия в древней Северной Америке (3191)

Ролик о побеге мальчика из города толстяков стал хитом сети (ВИДЕО) (3101)

Яркий признак истерики Кремля, - политолог (3006)

Чудеса природы: в Сингапуре зафиксировали огненную радугу (ФОТО) (2753)

Минус один: "Злой одессит" рассказал, где могла потерпеть катастрофу очередная субмарина РФ (2694)

Отличный выбор Трампа, - Олег Пономарь (2391)



Последние новости «I» в соцсетях

  

Новости партнеров

Загрузка...
Загрузка...
bigmir)net TOP 100

Экономические известия

Ежедневная деловая газета

Украинский бизнес портал

Электронный деловой журнал

Эксперт

Украинский деловой журнал

Статус

Еженедельный деловой журнал