【メルマガ】AI暗黒時代到来？(2022年10月25日)

AI(人工知能)。

様々なところで「AIを活用」みたいなことが叫ばれていますが、AIに関して興味深い記事がありました。

GIGAZINE

インターネット上の文章にわざと誤字脱字をまぎれこませることでAIを狂わせるサイバー攻撃の可能性

画像や文章の自動生成、顔認識、ゲームのプレイなど、人間の行動を模倣するAIを開発するためには、膨大なデータセットで学習す…

今回のメルマガでは、(そう遠くない)AIの未来について想像してみましょう。

AIの仕組みって？

色々なものを「AI」と言っていますので定義が難しいところですが、
ここでいう「AI」とは「大量のデータを元に、妥当そうな判断やデータを作成すること」と定義します。

ここ10年くらいで活用され始めた「ディープラーニング」などは、こうした典型ですね。

例えば、大量の画像から「『りんご』の写真はこれだよ」と教えることで、データの特徴などから『りんご』を識別できるようになる、といったことですね。

言うなれば、過去の延長線上に未来の判断がある、というわけです。

弊社においても、AIを活用しようと考えた時に、まずはデータ収集の開始をしたのは、現場のデータが最重要だと判断したためです。

関連記事

【農業×IoT】現地にて機器を設置(プロジェクトレポート Vol.3)

活動中の『農業×IoT』新プロジェクト。 できる限りの機材準備を行い、現地にて設置を行ってきました。 今回は、そうした様子をご紹介いたします。 ※過去レポートは以下を参照ください。 [sitecard subtitle=[…]

データに悪意があると･･･？

どのような判断を下すかは、その元となるデータが非常に重要なものとなります。

では、その元となるデータが、「そもそもおかしい」「悪意のあるようなデータ」だったらどうなるでしょうか。

おそらく、そのデータの質に近しい結果となるでしょう。

このようなAIの学習に、インターネット上のデータが使われることがあります。
インターネットは、基本的に誰でもデータを公開することができます。

つまり、悪意を持って、おかしなデータを公開することができるわけです。

こうしたデータをAIが取り込むと、意図せぬAIとなっていくのではないか、というわけです。

作為的にSNSで民意をコントロールする、といったことがしばしば問題となりますが、AIも同じ危険性をはらんでいます。

未来のAIは、セキュリティと同じく面倒なものになる？

インターネット黎明期は、自由に利便性を謳歌できました。
しかし、今は悪意に満ちていて、様々なセキュリティ対策をし続ける必要がある状況となってしまいました。

オープンなコントロールの効かない世界でAIが稼働し始めると、同じことになってしまうのではないでしょうか。

AIが扱うデータを人間が判断し続ける必要がある。
そんな「データ選別人」みたいな職業が、この先生まれてくるのかもしれません。