深層学習にできることできないこと

 書籍「AI 2041 人工知能が変える20年後の未来 (未来1)」(カイフ―・リー著)を読ませていただき、改めて深層学習がもたらす未来について考えさせられました。

 深層学習(ディープラーニング)は、2000年代のAI技術のブレイクスルーとなった技術です。数千もの多数のニューラルネットワーク層にデータを入力し、結果を最適最適化するようにパラメーターを変更するというものです。

 例えば、猫の写真とそれ以外の写真を回答とともに大量に入力させて正解が出るように学習させることにより、新たに入力される写真が猫かそうでないかを正確に識別できるようになるというものです。

 ここでポイントとなるのは、人間が猫の特徴と考える耳、ひげ、しっぽなどの特徴点とAIが機械学習で得た識別点が必ずしも一致しないということです。AIは猫とそれ以外という回答から自己学習で猫の識別アルゴリズム(識別のためのネットワーク)を構築したということです。

 将棋や囲碁では、深層学習によりAIが人間を超えて話題になりました。マスコミでは、AIが人間にとって代わられるのではないかという不安をあおるような報道がなされがちですが、この技術が機能する場面はかなり限られているといえます。

 すなわち、大量の関連するデータ、単一の領域、明確な目標関数の3つがそろわなければ深層学習は機能しないということです。

 具体的には、何らかの情報と写真、個人の購買履歴、検索されたワード、クリック情報や滞在時間といったビッグデータが必要となり、このようなデータをもっているのは、グーグルやアマゾンなどの巨大テック企業に限られます。

 また画像の識別、将棋や囲碁、購買履歴といった単一の領域内で閉じている必要があり、領域間をまたぐことはできません。

 そして、数値化された目標関数がなければ、効果的に学習させることはできないため、猫という結果、勝敗という結果、購買という結果が必要になるということです。

 この3つの前提は動かしがたい条件となり、人間であれば容易な他の分野からの連想、結合、修正といったことすらできないことになります。

 著書では、生命保険会社が利益を最適化するために保険料の支払いを回避しようとして様々な指示を人間に行います。

 例えば、健康のために喫煙をやめるように促したり、食生活を改善させたりするのは人間にとってもよい方向に働きます。

 もっとも、従来差別的な取り扱いを受けてきた少数派の人との接触を制限してリスクを減らそうとするのは、少数派に対する偏見や格差を助長することになり問題となる可能性があります。生命保険会社にとって利益を追求することが、必ずしも社会や人間性を育むことにとって好ましいといえるかといえばそうでない場面も多数あると考えられます。

 AI技術により多くの恩恵が得られるのは間違いないとしても、企業が売り上げや利益を目標関数として設定することにより私たち人間が被る損害もあるということを認識する必要があるでしょう。

 ここでもAI技術を漠然とした不安としてとらえるのではなく、技術の中核を理解してメリットとデメリットを慎重に分析する必要があるということのようです。

 

水野健司特許法律事務所

弁護士 水野健司

水野健司特許法律事務所|技術・知的財産、外国企業との契約書を中心に解決 (patent-law.jp)