このページをシェアする

第112回

第112回

 今週は、AI(人工知能)について書いてみます。IEEEInstitute of Electrical and Electronics Engineers)という団体(学会)の機関紙の10月号は、AI特集号なのですが、この標題が刺激的です。”Why Is AI So Dumb?” つまり、「なぜ人工知能はこんなに馬鹿なのか?」です。表紙には、双腕のロボットが〇、△、□、六角形の穴の開いたテンプレートを前に、円柱形、三角柱、立方体、六角柱の部品(?)を当てはめられない、という風情の写真が掲載されています。AIを開発している関係者が沢山所属している筈のIEEEでこのストレートな標題には、彼らのじれったさと焦りが隠されているようです。

 この号の特集記事(”7 Revealing Ways AIs FAIL”)によれば、AIが馬鹿なのは、次の諸点に集約されるようです。(()内は私のいい加減な意訳に基づくものです。)

1Brittleness(脆さ)~AIは、過去に見たことがあるものを認識することは可能だが、新しいパターンを見せられると容易に騙される~
2Embedded Bias(埋め込まれているバイアス)~AIが学習するデータに埋め込まれているバイアスにより、AIの判断は社会を危機に陥れる可能性がある~
3Catastrophic Forgetting(災害級の物忘れ)~AIは新しい情報を「上書き」する形で学習するので、古い(それまでに得た)知識を簡単に、かつ完全に「忘れて」しまう~
4Explainability(説明能力(の無さ))~AIが結論を得るためのプロセスは、いわば “mysterious black box” であり、説明可能性というものが無い~
5Quantifying Uncertainty(定量化の不確かさ)~2016年に米国で自動運転車がトラックと衝突し、死亡事故を発生させたように、AIはある状況では全く誤った判断を下す可能性がある~
6Common Sense(常識(の無さ))~AIには、人間が日頃使っている「常識」というものが無い~
7MATH(数学)~(普通のコンピュタは数値を扱うのは得意であるが)AIは驚くほどに数学が苦手である。数百のGPUGraphic Processor Unit)を搭載していても、ポケット電卓ほどの能力も無い~

 う~む。私は経産省の産業技術環境局というところでは「日本のAI研究体制強化」を論じ、世界的なAI研究者を産総研にお招きして「人工知能研究センター」の設立の仕事もやったのですが、AIがここまで「馬鹿」だとは知らなかったなあ~。尤も、私の個人的能力の中で、少なくとも(現時点の)AIに絶対に負けない自信があるのは「世の中のできごとを、瞬時に過去のプロレス界のできごとに喩える能力」なんですが・・・。

P.S.)エチオピア情勢が緊迫しています。当方も情報収集しており、近々、別の形で関係の皆様に情報提供したいと考えています。