人工知能は危険？顔認識技術で「偽ポルノ」誰でも合成可能。某サイトすでに3万人以上の登録者
ほ・ん・や・く！ボストロム氏の実際の発言
Bostrom makes it clear that he and his staff are not interested in everyday disasters; they deal only with the big stuff: “There are a lot of things that can go and have gone wrong throughout history — earthquakes and wars and plagues and whatnot. But there is one kind of thing that has not ever gone wrong; we have never, so far, permanently destroyed the entire future.”
ボストロム教授は、彼と彼のスタッフは毎日起きている災害には興味がなく、重要なもののみを扱っていることを明らかにしました。｢－地震と戦争、そして天災、その他にも似たようなもの－歴史を通して間違う可能性のある、そして間違ってしまった多くのことが存在します。しかし、決して間違ってこなかった一つのことが存在します。すなわち、我々はこれまで、全ての未来を永久に壊してしまう、ということは決してしたことはありませんでした。｣
“Before the prospect of an intelligence explosion, we humans are like small children playing with a bomb. Such is the mismatch between the power of our plaything and the immaturity of our conduct,” he wrote.
｢”知能の爆発”の予想を前にして、我々人間は、爆弾で遊ぶ小さな子供のようです。このようなことは、遊び道具の持つパワーと我々の行いの未熟さとの間のミスマッチです。｣と彼は書いています。
出典：https://www.ft.com/content/46d12e7c-4948-11e6-b387-64ab0a67014c
5-2 人工知能専門家で道徳哲学者のジャンガブリエル・ガナシア氏
- 仏ピエール・エ・マリー・キュリー大学（Pierre and Marie Curie University）の人工知能専門家で道徳哲学者のジャンガブリエル・ガナシア（Jean-Gabriel Ganascia）氏は、ホーキング博士の警告は「大げさだ」と言う。
- 「私たちの生活を変える人工知能をめぐる多くのことは、動揺や不安を呼び起こす。ホーキング氏は、人間とはかけ離れたところで自ら進化する技術になると語ったが、その証拠を提示していない。根拠となるようなデータはない」
5-3 米人工知能学会の元会長エリック・ホロビッツ氏
- 英ＢＢＣ放送の１月２８日の取材に対し、「長期的にみて、（自身で進化する）ＡＩをコントロールできなくなるという懸念はあったが、私は基本的にそういうことは起こらないと思う」と主張。
- 「最終的に長い人生で、科学、教育、経済などの分野でＡＩから信じ難いほどの利益を得ることになる」と訴え、ＡＩが未来の人類に多大な貢献を果たすとの見方を示した。
5-4 Facebookの最高経営責任者マーク・ザッカーバーグ氏
- マーク・ザッカーバーグ（Mark Zuckerberg）は、AI肯定派の1人です。同氏は1月、Facebookへの投稿で次のように述べている。「AIを恐れるべきではない。むしろ、AIがこの世界でどれほど多くのことに貢献するかに期待すべきだ」
6. 人工知能がもたらすリスクのパターン
6-1 企業が全てを独占する
↓
→１、その利益を還元しない→その企業、国が支配者に
→２、その利益を還元する→人工知能による爆益をめぐって対立が起きる
人工知能のリスクと言えば、ターミネーターのようなロボットの軍団を思い浮かべる人が多いと思いますが、それだけではありません。
高度な汎用型人工知能システムのプラットフォームを、もし一企業なり国なりが独占してしまったら、とてつもない利益を独占することになります。
人工知能プラットフォームを独占した企業が、吸い上げた莫大な利益を全人類に還元してくれるなら、人類の未来はバラ色と言えるかも知れません。
生産活動（労働）に関しては全て機械がやってくれるようになるでしょう。
誰も食べるために仕事をする必要はなくなります。人類の役目は遊ぶこと（消費）や、芸術活動などだけです。ついに人類は労働から解放されます。
しかし、その独占した企業や国が、果たして奉仕的に全人類に対して平等に還元してくれるのかははなはだ疑問です。
もしグーグルが汎用型人工知能プラットフォームを世界中に普及させたとすると、グーグルはまさにこの地球の支配者となります。
全人類を労働から解放するほどの利益を、もし一社、一国に独占されてしまうと人類に未来はないでしょう。
とてつもない大きな恩恵であるがゆえに、大きな争いの種となる可能性をはらんでいます。
企業が利益を多くを還元する場合でも、全人類に平等にその恩恵が行き渡るとは考えられません。
人工知能技術の爆益を巡って、対立構造、支配構造が生まれることは避けられません。
人工知能技術によって得た利益をどう分配するか？これは非常に大きな問題です。