Приоритетные направления научных исследований надежности и полезности искусственного интеллекта:

Открытое письмо подписали:

 УЧЕНЫЕ ПЛАНЕТЫ ПРИЗВАЛИ МИР ЗАНЯТЬСЯ БЕЗОПАСНОСТЬЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Технологии дали жизни возможность процветать, как никогда раньше ... но они же могут привести к самоуничтожению человечества.

http://futureoflife.org/home

(машинный перевод)

Искусственный интеллект (ИИ) исследование исследовал различные проблемы и подходы с момента его создания, но за последние 20 лет была ориентирована на проблемы, связанные с построением интеллектуальных агентов - систем, которые воспринимают и действуют в какой-то среде. В данном контексте "интеллект" связано статистических и экономических понятий рациональности - проще говоря, способность принимать правильные решения, планы, или умозаключениями. Принятие решения вероятностно-теоретических представлений и статистических методов обучения привело к большой степени интеграции и взаимообогащения между ИИ, машинного обучения, статистики, теории управления, неврологии и других областях. Создание общих теоретических основ, в сочетании с доступностью данных и вычислительные мощности, принесло заметные успехи в различных компонента задачи, такие как распознавание речи, классификация изображений, автономные транспортные средства, машинного перевода, ноги локомоции, и вопросно-ответной системы.

Так как возможности в этих областях и другие отставляем лабораторных исследований хозяйственно-полезных технологий, добродетельный цикл захватывает которой даже небольшие улучшения в производительности стоят большие суммы денег, что вызвало увеличение инвестиций в исследования. В настоящее время имеется широкий консенсус, что AI исследований неуклонно идет вперед, и что его влияние на общество, скорее всего, возрастет. Потенциальные выгоды огромны, ибо все, что может предложить цивилизация-это продукт человеческого разума; мы не можем предсказать, что мы можем достичь при этом разум увеличены средства ИИ могут предоставить, а искоренение болезней и нищеты не бездонные. Из-за большой потенциал ИИ, важно исследовать, как воспользоваться ее преимуществами, избегая при этом возможных ошибок.

Прогресс в Ай исследований не позволяет своевременно сосредоточить исследования не только на делая ИИ более способным, но и на максимизацию общественной выгоды ИИ. Такими соображениями руководствовались как aaai 2008-09 президентской группы по долгосрочным Ай фьючерсы и другие проекты по ИИ последствий, и составляют значительное расширение области ИИ, которая до сих пор сосредоточено в основном на методах, которые являются нейтральными по отношению к цели. Мы рекомендуем расширены исследования, направленные на обеспечение того, чтобы все более способным ИИ системы прочны и выгодно: наши системы ИИ должны делать то, что мы от них хотим. Прилагаемый исследовательские приоритеты документа дает много примеров таких направлений исследований, которые могут помочь максимизировать общественное благо ИИ. Данное исследование является необходимостью носит междисциплинарный характер, поскольку включает как общества, так и AI. Она колеблется от экономики, права и философии в области компьютерной безопасности, формальных методов и, конечно, различных отраслей Ай сама.

Резюмируя, мы считаем, что исследований о том, как сделать систему ИИ надежной и выгодной является важным и своевременным, и, что есть конкретные направления исследований, которые могут быть продолжены сегодня.

http://futureoflife.org/AI/open_letter#signatories

Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter

Artificial intelligence (AI) research has explored a variety of problems and approaches since its inception, but for the last 20 years or so has been focused on the problems surrounding the construction of intelligent agents - systems that perceive and act in some environment. In this context, "intelligence" is related to statistical and economic notions of rationality - colloquially, the ability to make good decisions, plans, or inferences. The adoption of probabilistic and decision-theoretic representations and statistical learning methods has led to a large degree of integration and cross-fertilization among AI, machine learning, statistics, control theory, neuroscience, and other fields. The establishment of shared theoretical frameworks, combined with the availability of data and processing power, has yielded remarkable successes in various component tasks such as speech recognition, image classification, autonomous vehicles, machine translation, legged locomotion, and question-answering systems.

As capabilities in these areas and others cross the threshold from laboratory research to economically valuable technologies, a virtuous cycle takes hold whereby even small improvements in performance are worth large sums of money, prompting greater investments in research. There is now a broad consensus that AI research is progressing steadily, and that its impact on society is likely to increase. The potential benefits are huge, since everything that civilization has to offer is a product of human intelligence; we cannot predict what we might achieve when this intelligence is magnified by the tools AI may provide, but the eradication of disease and poverty are not unfathomable. Because of the great potential of AI, it is important to research how to reap its benefits while avoiding potential pitfalls.

The progress in AI research makes it timely to focus research not only on making AI more capable, but also on maximizing the societal benefit of AI. Such considerations motivated the AAAI 2008-09 Presidential Panel on Long-Term AI Futures and other projects on AI impacts, and constitute a significant expansion of the field of AI itself, which up to now has focused largely on techniques that are neutral with respect to purpose. We recommend expanded research aimed at ensuring that increasingly capable AI systems are robust and beneficial: our AI systems must do what we want them to do.The attached research priorities document gives many examples of such research directions that can help maximize the societal benefit of AI. This research is by necessity interdisciplinary, because it involves both society and AI. It ranges from economics, law and philosophy to computer security, formal methods and, of course, various branches of AI itself.

In summary, we believe that research on how to make AI systems robust and beneficial is both important and timely, and that there are concrete research directions that can be pursued today.

List of signatories

Список подписавших включают:
СМ-приложенный файл/

noosfera, intellect

an Open Letter: Research Priorities for Robust and Beneficial Artificial Intelligence // Ноосфера. Общество. Человек. – 2015. – № 2;
URL: www.es.rae.ru/noocivil/en/240-1403 (Date Access: 07.11.2024).

Today: 1022 | Week: 1022 | Total: 1778

Comments (0)