Брайан Томасик. Больше страданий: от контролируемого людьми ИИ или мятежного?
Согласно распространенным прогнозам, если мы создадим искусственный сверхинтеллект, но не сможем его контролировать , то он, подобно максимизатору скрепок , положит конец человечеству, да и всем прочим формам жизни. Можно подумать, что раз все страдания в результате будут окончены, это не такой уж и плохой сценарий. Так следует ли нам беспокоиться об этой возможной проблеме?