Расчет вероятных сбоев в работе оборудования, а также анализ их потенциальных последствий предполагает научная оценка рисков.
Она базируется на изучении вероятных событий и использует строгие критерии. Если связанные с запуском оборудования риски превышают установленные пределы, его эксплуатация недопустима.
Более половины из 738 опрошенных ученых, которые занимаются исследованиями в области искусственного интеллекта, считают, что риск уничтожения человечества из-за ИИ в ближайшие сто лет превышает 5 процентов.
Руководители лабораторий этот риск оценивают в 10-20 процентов. Риск уничтожения человечества ИИ, таким образом, в 50 000-200 000 раз превышает допустимые уровни, принятые в производстве медицинских лекарств или строительстве атомных электростанций.
При этом стоит учесть, что все отрасли склонны занижать уровень негативного воздействия на население...
