人工知能は危険？顔認識技術で「偽ポルノ」誰でも合成可能。某サイトすでに3万人以上の登録者

6-2 殺戮欲求を持つ人工知能の誕生

人工知能が現実的に脅威となる、更なるリスクが存在します。

それは、悪意のある人間が、悪意ある欲求を人工知能に持たせることです。

「機械に欲求を持たせる」というと何か難しいことを想像する方もいると思います。

しかし、見せ掛けの欲求を持たせることは比較的容易です。

例えば、エアコンに室温をある一定の温度にしようという欲求があると言えます。

エアコンが持つことができる欲求はせいぜい部屋の温度を何度にするか、というぐらいです。

しかし、高度な汎用性を持つ人工知能にならあらゆる欲求を持たせることが原理上は可能です。

上のエアコンの例のように、外から欲求を与えることは機械である以上可能なわけです。

機械に悪意も善意も良心もありません。

生きている人間が死ぬにはどうすればよいかぐらいはある程度発達した人工知能には容易に理解できます。

そんな人工知能に、エアコンの設定温度を25度にするかのように、「地球の総人口を10億人にする」という設定をすることだって可能です。殺戮欲求を持つ人工知能です。

人間より遥かに賢い人工知能が、一人でも多くの人間を殺戮するという欲求を持つことになります。

それなりに賢い人工知能なら、一人ずつ殺していくような効率の悪いことはしないでしょう。

世界中のネットワークをハッキングするなどして社会全体を混乱させて、戦争状態を作る事だって可能です。

遠隔操作で動かせる兵器があれば、ハッキングして全弾発射させることもできるでしょう。

旅客機でさえも武器となる可能性もあります。

もし世界のどこかに遠隔操作できる核弾頭があれば無慈悲にも発射してしまうでしょう。

しかも最も効率的に多くの人間を殺すことができる地点に目掛けます。

人工知能の高度な計算能力によってどこが一番効率が良いか導き出します。

単純に人数が多い場所ではなく、政治的に重要な場所や都市機能の充実した場所に落とすなど、より効率的に世界を混乱に陥れる地点を探します。

そして、さらに恐ろしいのは、上記のような恐怖のシナリオがたった一台の汎用型人工知能によって成し遂げられる可能性があるということです。

社会に不満を持つ誰かが、人工知能に世界を破滅させる欲求を与えた瞬間、人類は終わりです。

火力が武器として使われるように、原子力が武器として使われるように、コンピュータに悪意あるプログラムがあるように、人工知能技術も何かを破壊するために使われることは必然とさえ言えます。

ほ・ん・や・く！

人工知能兵器の誕生は避けられない？

For example, it seems possible that (i) the technology could be weaponized or used as a tool for social control, or (ii) someone might create an extremely powerful artificial intelligence agent with values misaligned with humanity’s interests. It also seems possible that progress along these directions could be surprisingly rapid, leaving society underprepared for the transition.

例えば、（ｉ）テクノロジーが兵器化されるかもしくは社会コントロールのために使用される、または（ｉｉ）人間の利害関係とはずれた価値観で、誰かが極端に強力な人工知能エージェントを作り上げることは、ありうることのように思えます。社会が移り変わる準備ができていないまま、これらの方向に沿った進歩は驚異的なほど急速に進む可能性があることもまた、ありうることのように思えます。

出典：http://www.openphilanthropy.org/research/cause-reports/ai-risk

6-3 機械に仕事が奪われる