The Future of Life Institute (FLI)

Будущего жизни Институт

Миссия

Стимулировать и поддерживать исследования и инициативы по охране жизни и развивающихся оптимистического видения будущего, в том числе и положительные пути для человечества, чтобы направить свой курс с учетом новых технологий и проблемы.

Темпы развития искусственного интеллекта растут с каждым годом. В связи с этим, сотни ведущих ученых и предпринимателей мира призывают нас вновь обратить внимание на безопасность и этику, связанные с этой сферой, чтобы предотвратить всякую угрозу для общества.

Технология дала возможность процветать, как никогда раньше... или самоликвидироваться.

Приоритетные научные исследования надежности и полезности искусственного интеллекта: Открытое письмо

Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter

http://futureoflife.org/misc/open_letter

Искусственный интеллект (AI) исследования изучены различные проблемы и подходы с момента его создания, но за последние 20 лет или около того было сосредоточено на проблемах вокруг строительства интеллектуальных агентов - систем, воспринимать и действовать в некоторой окружающей среде. В этом контексте, "интеллект" связано статистические и экономические понятия рациональности - в разговорной речи, способность принимать правильные решения, планы, или умозаключения. Принятие решения вероятностных и теоретико-числовых представлений и статистических методов обучения привело к большой степени интеграции и взаимного обогащения между AI, машинное обучение, статистика, теория управления, неврологии и других областях. Создание общей теоретической основы, в сочетании с доступностью данных и вычислительные мощности, дала значительные успехи в различных компонент таких задач, как распознавание речи, классификация изображений (image classification, автономных транспортных средств, машинного перевода, передвижении, и вопрос-ответ системы.

А возможности в этих и других областях, переступить порог от лабораторных исследований к экономически ценные технологии, эффективный цикл овладевает, по которому даже небольшие улучшения в производительности стоят крупные суммы денег, побуждая увеличивать инвестиции в исследования. В настоящее время имеется широкий консенсус относительно того, что AI исследований развивается стабильно, и что ее влияние на общество, скорее всего, возрастет. Потенциальные выгоды огромны, поскольку все, что цивилизация может предложить-это продукт человеческого разума, мы не можем предсказать, что мы могли бы достичь при этом разум увеличенный инструменты AI может предоставить, но искоренение болезни и бедность не являются непостижимой. Из-за большой потенциал AI, важно исследовать, как воспользоваться ее преимуществами, избегая при этом возможных ошибок.

Прогресс в AI исследования делает это своевременно, чтобы сосредоточиться на исследовании не только " о внесении AI более способными, но и на максимизацию выгоды для общества АИ. Такие соображения побудили AAAI 2008-09 президентских панель на длительный срок AI фьючерсы и другие проекты на AI воздействия, и составляют значительное расширение области AI, которая до сих пор была сосредоточена в основном на методах, которые являются нейтральными в отношении цели. Мы рекомендуем расширить исследования, направленные на обеспечение того, чтобы все более и более систем ИИ, способных надежно и выгодно: наши системах ИИ должен делать то, что мы от них хотим. Прилагаемый исследовательские приоритеты документ дает много примеров таких научных направлений, которые могут помочь максимизировать благо общества в АИ. Данное исследование является необходимость междисциплинарных, поскольку она включает в себя как общества, так и AI. Она колеблется от экономики, права и философии компьютерной безопасности, формальных методов и, конечно, различных отраслей AI сама.

В целом, мы считаем, что исследования о том, как сделать AI систем надежным и выгодным является важным и своевременным, и что существуют конкретные направления исследований, которые могут осуществляться и сегодня.

Открытое письмо было подписано известным физиком Стивеном Хокингом, соучредителем Skype Яаном Таллинном, генеральным директором SpaceX Элоном Маском и другими светилами науки из лучших университетов мира: Гарвардского, Стэнфордского, Массачусетского, Кэмбриджского, Оксфордского; также к письму присоединились такие компании, как Google, Microsoft и IBM.

Письмо подписали

Open letter signatories include:

http://futureoflife.org/misc/open_letter#signatories

Security, Artificial Intelligence, Elon Musk.

an Open Letter: Research Priorities for Robust and Beneficial Artificial Intelligence // Ноосфера. Общество. Человек. – 2015. – № 26;
URL: www.es.rae.ru/noocivil/en/237-1308 (Date Access: 17.05.2024).

Today: 830 | Week: 830 | Total: 1724

Comments (0)