Об угрозах живому интеллекту

Доклад Оноприенко Владимира Ивановича - профессора Российской Академии естествознания, Grand Doctor of Philosophy, Full professor, доктора экономики и коммерции, доктора экономических наук, академика Ноосферной общественной академии наук, член-корреспондента  Петровской академии наук и искусств, Академии Экономических наук, Full member EUANH, персонального члена Международного Союза экономистов. International Union of Economists, Inc. (IUE), международного эксперта 11-07, 21.06.11. IASHE, члена Международного научного клуба Никола Тесла, главного  редактора электронного научного журнала «Ноосфера.Общество.Человек»,  известного российского учёного, ноосферолога, крупнейшего специалиста по социально-экономическим, философским и культурологическим вопросам .  

Доклад посвящен   одному из важнейших и новых направлений  современной науки – мультидисциплинарным проблемам, которые находятся на стыке искусственного и естественного интеллекта, в частности,  Об угрозах  живому интеллекту, и которые затрагивает проходящая Международная онлайн Конференция "Модель Космопланетарной интеграции планеты Земля в Ноосфере".

Содержание:

1. Преамбула-свобода и необходимость в науке

2. Открытое письмо – манифест  об опасности Искусственного Интеллекта

3. Стивен  Хокинг  предрекает   победу  искусственного  интеллекта

над   человечеством

4. Сумма  угроз:  военные угрозы, системные угрозы

5. Заключительная часть: запрограммировать способность людей продолжать развиваться.

6. Резюме

Введение:

Темпы развития искусственного интеллекта растут с каждым годом. В связи с этим, сотни ведущих ученых и предпринимателей мира призывают нас обратить внимание на безопасность и этику, связанные с этой сферой, чтобы предотвратить всякую угрозу для общества. В настоящее время специалисты со всего мира подписывают открытое письмо «Об опасности Искусственного Интеллекта», предложенное Институтом будущего жизни (Future of Life Institute) - волонтерской организацией, поставившей перед собой цель уменьшения потенциальных рисков, связанных с развитием искусственного интеллекта. Открытое письмо было подписано известным физиком Стивеном Хокингом, соучредителем Skype Яаном Таллинном, генеральным директором SpaceX Элоном Маском и другими светилами науки из лучших университетов мира: Гарвардского, Стэнфордского, Массачусетского, Кэмбриджского, Оксфордского; также к письму присоединились такие компании, как Google, Microsoft и IBM.

Преамбула

Есть весьма распространенное мнение, что исследования искусственного интеллекта прогрессируют постепенно, но их влияние на общество будет увеличиваться. В связи с этим сотни ведущих ученых и предпринимателей мира призывают нас вновь обратить внимание на безопасность и этику, связанные с этой сферой, чтобы предотвратить всякую угрозу для общества и для его сердца – живого интеллекта.

Технологии дали жизни возможность процветать, как никогда раньше. Но они же могут привести к самоуничтожению человечества. Ученый обязан всегда помнить о возможности отрицательных по­следствий результатов своих исследований и искать эффективные спосо­бы контроля за использованием научного знания. Ни научное знание, ни ученый как субъект познания не существует вне общества, причем их связь с обществом становится все теснее.

Глобализация вызвала изменение социальной ориентации науки и кардинально усилила ответственность ученых перед человеческой цивилизацией, обществом, а все большая глобализация ставит перед ними но­вые этические проблемы.

Свобода науки включает, во-первых,  свободу научного творчества и право интел­лектуальной собственности на результаты творческой деятельности, ин­теллектуальную свободу мысли, однако, во-вторых, налагает социальную ответственность на ученых, на их социально-правовой статус, гражданскую  свобо­ду.

Интеллектуальная свобода научной мысли выражается в способнос­ти творческой личности к постановке научных проблем, выдвижению гипотез, обоснованию теорий, выводов, прогнозов и т.п. Выбор объек­тов творчества и методов научных исследований зависит от способнос­тей, дарований, склонностей, воли, желаний, инициативы. В конечном счете личность сама решает, в какой сфере духовной деятельности проя­вить себя. Равным образом осуществляется и выбор наиболее результа­тивных методов, которые позволяют полнее и глубже раскрыть сущ­ность изучаемых объектов, добиться реализации сознательно поставлен­ной цели научного поиска. Свобода научной деятельности тесно увязывается с требованиями социальной ответственности.

Социальная ответственность ученых существовала всегда, но ее роль повышалась вместе с ростом значения науки в обществе. Ученые сознают свой высший долг— служить истине, а, следовательно, нести ответственность за истинность и достоверность полученного результата, нового знания. Но есть и другой результат науки — полезность научных результатов для обще­ства.

Открытое письмо – манифест  об опасности Искусственного Интеллекта

Письмо-манифест состоит из трёх абзацев и вывода. В первых двух из них FLI даёт краткий обзор последним достижениям в области искусственного интеллекта вроде машинного перевода, распознавания речи или автоматической классификации изображений, и отмечает, что технология может принести человечеству в будущем огромную пользу. По мнению организации, на определённом этапе мир, придуманный людьми, начнут заполнять объекты, придуманные роботами.

В конце письма FLI подводит к мысли, что учёные слишком озабочены развитием способности искусственного интеллекта эффективно решать конкретные задачи, и не задумываются о том, что он может в определённый момент начать выбирать себе цели самостоятельно и отказаться от человеческого вмешательства. Авторы письма рекомендуют расширить исследования в направлении повышения надёжности и полезности систем искусственного интеллекта: они должны делать то, что мы хотим, чтобы они сделали.

Напомним, что Элон Маск уже высказывался на тему искусственного интеллекта, отметив, что он может быть опаснее ядерного оружия. "Я все больше уверен в необходимости регулятивного надзора, возможно, на национальном и интернациональном уровне. Просто для того, чтобы быть уверенными в том, что мы не сделаем чего-нибудь очень глупого". Стивен Хокинг же использовал в качестве примера фильм "Превосходство": "Можно представить, что такая технология перехитрит финансовые рынки, станет лучшим изобретателем, чем люди, обойдет лидеров и разработает оружие, которое мы даже не сможем понять". 
 

В открытом письме говорится о том, что успех в разработке искусственного интеллекта может принесли человечеству несравнимую пользу, потому сейчас необходимо понять, как максимально увеличить эту пользу, избежав потенциальных рисков. 
 

Исследования искусственного интеллекта были посвящены целому ряду проблем и подходов с момента появления [дискурса], но за последние 20 лет они сосредоточились вокруг построения интеллектуальных агентов — систем, которые воспринимают и действуют в определенной среде. В этом контексте «интеллект» относится к статистическим и экономическим понятиям рациональности — проще говоря, способности принимать правильные решения, составлять планы и делать выводы.

Принятие вероятностных, теоретических представлений, решений и статистических методов обучения привели к значительной интеграции и взаимному обогащению искусственного интеллекта (AI), машинного обучения, статистики, теории управления, неврологии и других областей. Создание общих теоретических основ, рамок в сочетании с доступностью данных и вычислительной мощности привело к значительным успехам в решении различных проблем, таких как распознавание речи, классификация изображений, автономные транспортные средства, машинный перевод, роботизированное передвижение  и вопросно-ответные системы.

По мере того как возможности этих и других областей переступают порог лабораторий и переходят к экономически значимым технологиям, общий круг привлекает большие инвестиции в исследования и привлечения даже незначительных улучшений. Есть общепринятое мнение, что исследования искусственного интеллекта прогрессируют постепенно, а их влияние на общество будет увеличиваться. Потенциальные выгоды огромны, поскольку все, что может предложить цивилизация — это продукт человеческого интеллекта; мы не можем предсказать, чего могли бы достичь, если бы этот интеллект был усовершенствован искусственным интеллектом, но в таком контексте искоренение бедности и болезней не являются непостижимыми целями. Из-за мощнейшего потенциала ИИ, очень важно исследовать, как получить его преимущества, избежав потенциальных ловушек».

Письмо обращается ко всем возможным проблемам, которые находятся на стыке искусственного и естественного интеллекта: как предупредить появление автоматического оружия, которое может убивать без разбора; кого винить в том, что автоматический транспорт теряет контроль управления и т. п.

Составители письма не ставят цель напугать общественность, желая лишь подчеркнуть как положительные, так и отрицательные аспекты, связанные с ИИ (Искусственный Интеллект). «Сейчас все сходятся во мнении, что исследования ИИ уверенно прогрессируют, а влияние ИИ на общество будет усиливаться, — говорится в письме. — Открывающиеся возможности огромны, ведь все, что может предложить цивилизация, создано интеллектом человека. Мы не в состоянии предсказать, чего можно будет достичь, если этот интеллект будет умножен средствами ИИ, но проблема избавления от болезней и бедности уже не кажется бесконечно трудной».

В наш быт уже входят многие разработки в области ИИ, включая системы распознавания речи и изображений, беспилотные транспортные средства и т. п. По оценке наблюдателей из Кремниевой долины, в этой области сейчас работает более 150 стартапов. Разработки в области ИИ привлекают все больше инвестиций, все больше компаний вроде Google развивают проекты на базе ИИ. Поэтому, как считают авторы письма, сейчас самое время уделить повышенное внимание возможным последствиям этого бума для социальных, экономических и юридических сторон нашей жизни.

«Многие специалисты по экономике и компьютерным наукам понимают, что необходимо тщательно исследовать пути максимизации выгод от использования ИИ и минимизации негативных побочных эффектов, включая рост неравенства и безработицы», — говорится в письме FLI.

Уже на протяжении многих лет писатели-фантасты рисуют картины будущего, в котором суперкомпьютеры порабощают или вовсе уничтожают человечество. Мы привыкли об этом читать, видеть это в фильмах, а ведь не только деятели искусства допускают такую возможность. Эксперты в области искусственного интеллекта тоже готовятся к худшему, если однажды машины станут умнее людей и уйдут от их контроля.

Стивен Хокинг предрекает  победу искусственного интеллекта

над  человечеством

Развитие систем искусственного интеллекта угрожает человечеству, считает британский физик-теоретик Стивен Хокинг. Стивен Хокинг является создателем и руководителем Центра теоретической космологии в Кембриджском университете. Один из самых известных физиков-теоретиков нашего времени. Несмотря на тяжелое заболевание, приковавшее его к инвалидному креслу, ученый активно занимается популяризацией науки, высказывается по ключевым вопросам развития различных отраслей человеческого знания и общества. «Появление полноценного искусственного интеллекта может стать концом человеческой расы. Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем», — сказал ученый в интервью BBC.

Письмо и сопровождающий его доклад Института будущего жизни (Future of Life Institute), приоритет в исследованиях которого отводится функциональному и полезному искусственному интеллекту, появились на фоне растущей обеспокоенности эффектом, который могут оказать на рабочую занятость и даже выживание человечества в долговременном периоде машины. Интеллектуальные способности машин могут превзойти интеллектуальные способности людей, их создавших", - говорится в статье.

Глава Tesla Motors Элон Маск рассказал, что занимается искусственным интеллектом (он вкладывает средства в компанию Deep Mind), чтобы следить за этим крайне опасным изобретением. Маск даже предположил, что человечество может быть лишь «биологическим загрузчиком» для роботизированных форм жизни, которые начнут править планетой в будущем. Элон Маск постоянно обращает внимание общественности на опасность искуственного интеллекта.

Открытое письмо призывает организовать независимое исследование, которое оценит «общественную пользу» новых разработок в сфере AI (искусственного интеллекта). Письмо отмечает, что до текущего времени разработки оставались в пределах «нейтральных или общественно полезных» начинаний. Однако ввиду стремительного роста популярности таких инженерных экспериментов необходимо убедиться, что созданные системы «устойчивы и надежны». 
«Наши системы искусственного интеллекта должны делать то, что мы хотим, чтобы они делали», – отмечается в письме. Сегодня мы стоим на пороге новой эры, так как роботы выходят из лабораторий в сферу широкого экономического применения.

          Хотя преимущества от использования этих технологий огромны и мы уже близки к победе над болезнями и бедностью, нам необходимо внимательно отнестись к возможным негативным последствиям и рискам», – признают разработчики AI.
«Сегодня мы сталкиваемся с многочисленными случаями недопонимания реального масштаба этих вопросов», – признал Тони Прескотт, директор центра роботостроения в Шеффилде. Прескотт отмечает, что подписание подобных обращений ведущими технологическими компаниями, такими как Google, – хороший знак, и он стремится к тому, чтобы их подписали в том числе и государства.

Сумма угроз

Человечество прошло по дороге развития технологий достаточно длинный путь. Однако прогресс в области изобретений, направленных на улучшение качества жизни, всегда шагал в одном ряду с появлением новых видов оружия. Кто-то может оправдаться, заявив, что этот вектор развития новых технологий — вынужденная мера, самозащита, другие скажут, что в этом заключается природа человека. Так или иначе, люди получили в свое распоряжение за последнее столетие множество новых способов для уничтожения себе подобных с планетарным размахом. Разработки новых воплощений оружия массового поражения ведутся во многих странах. Поэтому так актуален этот вопрос.

( источник: http://www.infox.ru/hi-tech/weapon/2014/08/11/10_vidov_oruzhiya_bu.phtml

10 видов оружия будущего. Георгий Орлов /Infox.ru ).

Автономное оружие
Роботизированные транспортные средства находятся на данный момент в стадии разработки. Их основная цель — найти и уничтожить вражеские войска и технику на земле или в воздухе без человеческих потерь. Они функционируют на принципах интерпретации данных, полученных от датчиков, для идентификации и ликвидации враждебных сил с помощью встроенного оружия. Такие роботы могут запрашивать управляющего человека для разрешения на огонь и распознавать дружественные силы с помощью передающих сигнал устройств, которые идентифицируют их как «друзей». Основная проблема внедрения автономных «убийц» заключается в несовершенстве системы опознания цели. Поэтому, теоретически, мирные жители находились бы в опасности, если такие устройства стали в массовом порядке появляться на улицах.

Высокоэнергетические лазеры
Технология базируется на применении мощных энергетических лучей, которые проходят через воздух или космос со скоростью света и могут нанести удар по цели, находящейся на расстояния в тысячи километров. Большие зеркала сосредоточивают лазерные лучи на небольшой точке на мишени. Тепло прожигает поверхность, нарушая полет, отключая боеголовки или зажигая топливо и взрывчатые вещества. Мощным лазерам необходимо топливо или электроэнергия. Кроме того, они очень громоздки. В довершении ко всему, энергия пучка, проходя через воздух и турбулентность, может рассеиваться. Именно поэтому весь потенциал лазера как оружия касается будущего времени, когда все названные проблемы смогут быть решены.

Базирующееся в космосе оружие
Космос — наивысшая точка, с которой удобней всего вести огонь, ведь все цели находятся ниже, а само оружие остается недоступным для потенциального противника. Главная миссия космического оружия заключается в осуществлении защиты от баллистических ракет, выпущенных по целям на Земле. Флоты перехватчиков будут размещены на орбите. Ведущей технологией в этой сфере считаются твердые снаряды, например, вольфрамовые стержни. Но внедрение лазерных боевых станций также рассматривается в качестве возможного сценария. Проблема распространения заключается в незрелости технологии. Реакция на атаку должна быть моментальной, чего на данный момент достичь не удается. Кроме того, лазеры работают на химическом топливе или электроэнергии, которая недоступна в космосе.

Гиперзвуковые летательные аппараты
Запущенный со стандартной взлетно-посадочной полосы гиперзвуковой самолет может развивать скорость более 5 Махов для того, чтобы поразить цель в любой точке мира в течение двух часов. Благодаря своим теоретическим возможностям он мог бы даже доставить спутник на околоземную орбиту. Чтобы оторваться от земли, гиперзвуковые самолеты будут либо использовать обычные самолеты или свой собственный реактивный двигатель. На высоте, где плотность воздуха и сопротивление меньше, подобные устройства будут достигать сверхзвуковых скоростей, а затем переходить к возможностям гиперзвукового прямоточного воздушно-реактивного двигателя, который смешивает воздух с топливом. Проблема технологии та же: незрелость. Гиперзвуковой полет на сегодняшний день был продемонстрирован только небольшим беспилотным аппаратом, достижение скорости которого осуществлялось другими транспортными средствами.

Система активного сбрасывания
Принцип технологии базируется на использовании 2-метровой антенны и мобильного генератора, производящих и нацеливающих волны с частотой около 95 ГГц, оказывающие шоковое воздействие на людей. Большая часть энергии поглощается верхним слоем кожи, что заставляет цель инстинктивно спасаться бегством. Ограничением для внедрения является опасность получения серьезных травм и ожогов кожи.

Ядерные ракеты
Ядерные ракеты способны продуцировать непревзойденную разрушительную силу в любой точке мира, что возносит их на высший уровень военной мощи. Одна или несколько ядерных боеголовок, установленных на баллистической ракете, запускаются вертикально, после чего ракета сгорает в верхних слоях атмосферы, а сама бомба спускается и взрывается в заданной точке.

Оглушающее оружие

Это оружие поражает человека с помощью электричества, что позволяет полиции обезвредить преступников, не причиняя им травм. Дротики на проводах, попадая в цель, обеспечивают импульс электроэнергии, которая временно нарушает контроль произвольных мышц. Основной проблемой данной технологии опять же можно считать потенциальную опасность для организма. Атакованные могут получить травмы, которые в частных случаях оборачиваются летальными исходами.

 Электронные бомбы
Данная разновидность бомб поражает компьютеры и средства коммуникации, взрываясь в воздухе и освобождая огромный запас электромагнитной энергии. Быстрое увеличение напряженности электромагнитного поля вызывает сгорание электрооборудования в виду того, что полупроводники особенно уязвимы к такой атаке. Ограничением на использование электронных бомб являются непредсказуемые последствия, возможность поразить и собственное оборудование в процессе применения.

Многоуровневая система ПРО
Она представляет собой лучший способ для атаки на выпущенные баллистические ракеты. Противоракетные системы отслеживают полет атакующей ракеты на различных этапах полета. Несмотря на свою эффективность, система является дорогой в постройке, тестировании и поддержании в работоспособном состоянии.

          Информационное оружие
Техника, создающаяся в рамках этой ниши, мешает поступлению потоков жизненно важной информации к противнику, защищая дружеские каналы связи. Информационное оружие специально ориентировано на коммуникационные сети. Эксперты по взлому могут атаковать вражеские сети или распространить компьютерные вирусы по ним. Кроме того, при помощи данных технологий может быть распространена дезинформация по каналам радио- и телевизионных передач.

К счастью, политика сдерживания позволяет лишь разрабатывать некоторые оружейные технологии, но применять их в действительности невозможно. Растущее количество военных конфликтов, безусловно, заставляет нервничать, ведь это подстегивает развитие изобретений новых видов оружия, но, как можно заметить, для каждого нового способа уничтожения существуют ограничения на внедрение. В конце - концов, все заинтересованы в мире и порядке, поэтому не стоит ожидать появления нового смертоносного оружия в повседневной жизни.

Системная угроза – это использование социальных сетей для манипулирования массами

Здесь много возможностей организовывать протесты в тех странах, где происходят массовые волнения, даже не находясь в этих странах. То есть существует возможность «манипулировать массами» и вмешиваться во внутренние дела страны или отдельной территории извне.

Пролонгированной угрозой развитию живого интеллекта человечества является возрастающая зависимость молодого поколения от Интернета

Дети современности растут в цифровом мире, их мировоззрение может не измениться и тогда, когда они станут взрослыми. Например, они привыкнуть голосовать онлайн, и если избирательная система не предоставит им такой возможности, то они вообще откажутся участвовать в выборах. Устройство интернета изначально тоталитарно. То есть уже сейчас отсутствие развитых систем онлайн-выборов ставит под вопрос будущее демократии во многих развитых странах. Закат эпохи ядерного вооружения послужил окончанием холодной войны. Теперь логика многообразия в основе интернета — ключ к пониманию приближающейся войны за интеллектуальный центр нашей цивилизации.

Однако мы не должны отворачиваться от интернета. Мы должны бороться за интернет. Когда люди основали первые города, это позволило им объединяться в большие группы и быстро обмениваться идеями. Нечто подобное происходит и в нашу эпоху. Интернет позволил людям намного эффективнее общаться, приходить к консенсусу, заниматься самообразованием и координировать усилия для борьбы с узурпировавшими власть силами. И для этого у нас есть простое и демократическое оружие, о котором мечтал Оруэлл — криптография, математический метод, находящийся в основе биткоина и наиболее безопасных программ для коммуникации. Производство криптографии почти ничего не стоит — нужное программное обеспечение может быть написано на домашнем компьютере, его легко копировать и часто невозможно взломать.

Угрозы интернета и его новейших механизмов уже давно подробно описаны, но, кажется, только теперь человечество по-настоящему расстается с ребяческим восторгом, связанным с этим величайшим человеческим изобретением. Соцсети непоправимо уродуют человека, и загонят его обратно в пещеру первобытного чудовища с его фрагментарным, животным, фэйсбучным сознанием, лишь реагирующим на изменения внешней среды (обновления ленты), не способным на чем-то сосредоточиться и обдумать хотя бы одну мысль до конца. Однако изобретение интернета - это очередной крутой поворот в истории человечества, подобно изобретению печатного станка. Преодоление таких поворотов, очевидно, является нашей судьбой, призванием и гордостью.

------------------------///

Заключительная часть:

По мере развития технического прогресса в ближайшие годы, последствия его  могут  быть гораздо более катастрофичными для человечества, если не предпринимать широких мер для устранения заблуждений человечества о достоинствах ИИ. Эти опасения прогнозируют исследователи из Института будущего человечества (МЗС-Будущее человечества Институт является многопрофильным научно-исследовательский институтом в Оксфордском университете.), и вероятность катастрофы Живого интеллекта высока. На самом деле, по расчетам  МЗС  график оценки вероятности того, что человечество вымрет в течение ближайших 100 лет составляет от 40 до 19 процентов. "Это, очевидно, тревожно, но оно по-прежнему означает, что  81% процент- это шанс, что  этого не произойдет в ближайшие 100 лет", - говорит профессор Ник Бостром, директор Института.  Он добавляет, что мы можем косвенно улучшить наши шансы, создав коллективный разум и глобальный доступ к информации, чтобы позволить обществу контролировать ИИ для более быстрого выявления потенциально опасных новых технологических достижений.

Прогноз потенциала для вымирания человечества может показаться мрачным, но МЗС -  исследователи считают, что он может стимулировать людей начать думать, и принимать меры.

Мы не можем просто привыкать и учиться на собственном опыте и адаптации. Мы должны предвидеть и избежать экзистенциального риска.  Поэтому, одна из самых важных задач исследователей рисков на данный момент заключается в повышении уровня осведомленности человечества о потенциально разрушительных ситуациях для живого интеллекта Планеты в результате действий Искусственного Интеллекта.

Российские ученые еще в 2013 году разработали и обнародовали Хартию Исследователей Ноосферы, где сфокусировано внимание общества на  необходимость соблюдения общечеловеческих  этических норм в исследованиях ноосферы: «3.1.Исследователи должны вести свои исследования для блага человечества и расширения границ научного знания, обладая свободой мысли и слова, свободой выбирать методы решения проблем, в соответствии с признанными этическим принципами и нормам. Такие ограничения не должны нарушать признанные этические принципы и нормы, которых исследователи должны придерживаться. 4.2.Исследователи должны придерживаться признанных этических норм и фундаментальных этических принципов, сложившихся в их дисциплине, равно как и этических стандартов, зафиксированных в различных национальных, отраслевых или институциональных этических Кодексах. 4.3.Исследователи должны сознавать, что они ответственны перед обществом в целом. 12. Подписавшие настоящую Хартию, целиком и полностью разделяют Хартию Земли (принята ЮНЕСКО в 2000 году), содержащую фундаментальные принципы для создания справедливого, устойчивого и мирного глобального общества в двадцать первом веке и направленной на то, чтобы пробудить в каждом человеке новое чувство взаимозависимости и всеобщей ответственности за процветание людей и всего живого сообщества. 

«Мы, люди, на 99,9999 процентов концентрируемся на краткосрочных планах и практически мало думаем о будущем», — сказал один из самых известных физиков в мире, Max Tegmark.  Возраст Вселенной — около 13,8 миллиарда лет. В нашем распоряжении осталось еще несколько миллиардов лет, в течение которых можно создать себе прекрасные условия для жизни. Даже если через четыре миллиарда лет нас поглотит Солнце. Если научиться заботиться о нашей планете, если избежать ядерной войны и не использовать искусственный интеллект для разрушительных целей, то у нас есть время, чтобы решить все другие проблемы. У нас есть шанс подарить жизнь всем людям, даже тем, кто обречен на смерть, а также бессмертие, жизнь без боли и болезней, без голода и страданий.

Стратегическую цель человечества в условиях угрозы Искусственного Интеллекта лучше всех сформулировал Элиэзер Юдковский, которую он назвал «последовательно выраженным волеизъявлением»: нам нужно запрограммировать способность людей продолжать развиваться. Основной целью ИИ тогда будет это - «Наше последовательное выраженное волеизъявление таково: наше желание — знать больше, думать быстрее, оставаться в большей степени людьми, чем мы были, расти дальше вместе; когда выражение скорее сходится, нежели расходится; когда наши желания скорее следуют одно за одним, нежели переплетаются; выражается как мы бы хотели, чтобы это выражалось; интерпретируется, как мы бы хотели, чтобы это интерпретировалось».

В наших силах свести все угрозы к минимуму и предвидеть все, что только можно, обеспечив успеху высокие шансы.

Резюме:

Первая Международная научно-практическая онлайн Конференция Ноосфера-Планета разума, проходившая с 1июня по 27июля 2015 года в Москве по Презентации Международного Мегапроекта "Великое Сокрестие Континентов-Стратегическая модель Космопланетарной интеграции планеты Земля в Ноосфере", на которой выступили с  научными докладами 27 известных ученых и специалистов ( академиков и докторов наук), представляющих Международный Научный Совет Мегапроекта, вынесла  единодушное решение, которое я выражаю как общее мнение Конференции:

1.Одобрить и поддержать открытое письмо об опасности Искусственного Интеллекта Института Будущего Жизни, инициативу  ученых и специалистов об исследовании и предупреждении угроз живому интеллекту Человечества, и  обратиться  ко всем   ученым мира поддержать инициативу   и выразить  солидарность совместной борьбе с этой проблемой.

2. В сязи с этим,  Международный Научный Совет Мегапроекта заочно вводит в Члены Научного Совета Мегапроекта Ученых Стивена Хокинга и  Элона Маска.

*************************

При подготовке доклада учтены материалы Георгия Орлова /Infox.ru, компиляция Тима Урбана -  работы Ника Бострома, Джеймса Баррата, Рэя Курцвейла, Джея Нильс-Нильссона, Стивена Пинкера, Вернора Винджа, Моше Варди, Расса Робертса, Стюарта Армстрога и Кая Сотала, Сюзан Шнайдер, Стюарта Рассела и Питера Норвига, Теодора Модиса, Гари Маркуса, Карла Шульмана, Джона Серля, Джарона Ланье, Билла Джоя, Кевина Кели, Пола Аллена, Стивена Хокинга, Курта Андерсена, Митча Капора, Бена Герцел, Артура Кларка, Хьюберта Дрейфуса, Теда Гринвальда, Джереми Говарда.

Оноприенко В.И. Декларация живого интеллекта. ISBN 9781312898325

– Изд-во Altaspera Publishing & Literary Agency Inc., 2015. Copyright;

Оноприенко В.И. Хартия исследователей Ноосферы // Ноосфера. Общество. Человек. – 2014. – № 1-URL: www.es.rae.ru/noocivil/233-1179 ; http://ru.scribd.com/doc/196161041/Хартия-исследователей-Ноосферы-Noosphere

СВИДЕТЕЛЬСТВО О РЕГИСТРАЦИИ --  www.copytrust.ru

Объект интеллектуальной собственности (ОИС) успешно зарегистрирован и ему присвоен UIN 07N-49-D6.
Данный регистрационный номер уникально идентифицирует зарегистрированный ОИС.
Для просмотра регистрационной информации на сайте перейдите по ссылке https://www.copytrust.ru/m_register_info.php?rid=07N-49-D6
Наименование: Об угрозах живому интеллекту. Доклад.
Тип произведения: Иное произведение
Подтип произведения: Cамостоятельное
Дата создания: 25.07.2015
URL публикации данных: http://www.famous-scientists.ru/4531/
Описание: Доклад посвящен одному из важнейших и новых направлений современной науки – мультидисциплинарным проблемам, которые находятся на стыке искусственного и естественного интеллекта, в частности, Об угрозах живому интеллекту
Номер заявителя: 947
Дата регистрации: 25.07.2015 18:46:53
Срок хранения данных: 25.07.2016

​Депонированные данные: https://www.copytrust.ru/reginfo/getdeponated/07N-49-D6

Раздел реестра: Человек и общество::Философия/Эстетика/Этика
Метки: естественный интеллект,живой интеллект,искусственный интеллект
Тип ресурса: Файл
Ресурс: текст финальный ДОКЛАД-Об угрозах живому интеллекту-25.07.2015.doc
Тип данных: Текстовый
Хеш-код данных(SHA-1): ab14fe4def1a745e9b7b9f2d05eca46e0a8f9200
Хеш-код данных (ГОСТ Р 34.11-94): da894e08c725d24e4cbd42553b9e5ac9840d4fd0717b0422d091bbdecf3762f3
Автор: Фамилия: Оноприенко
Имя: Владимир
Отчество: Иванович
Псевдоним: VLADIMIR ONOPRIENKO
Заменять имя автора псевдонимом: Нет
Роль: автор
 

ДЕКЛАРАЦИЯ ЖИВОГО ИНТЕЛЛЕКТА.
 ISBN 9781312898325
Изд-во Altaspera Publishing & Literary Agency Inc., 2015;
ХАРТИЯ ИССЛЕДОВАТЕЛЕЙ НООСФЕРЫ 
Ноосфера. Общество. Человек. – 2014. – № 1-URL: www.es.rae.ru/noocivil/233-1179 ; 
http://ru.scribd.com/doc/196161041/Хартия-исследователей-Ноосферы-Noosphere

ОБ УГРОЗАХ ЖИВОМУ ИНТЕЛЛЕКТУ. ДОКЛАД // Ноосфера. Общество. Человек. – 2015. – № 30;
URL: www.es.rae.ru/noocivil/ru/241-1406 (дата обращения: 26.04.2024).

Сегодня: 726 | За неделю: 726 | Всего: 1420

Комментарии (0)