【メルマガ】AI暗黒時代到来?(2022年10月25日)

AI(人工知能)。

様々なところで「AIを活用」みたいなことが叫ばれていますが、AIに関して興味深い記事がありました。

GIGAZINE

画像や文章の自動生成、顔認識、ゲームのプレイなど、人間の行動を模倣するAIを開発するためには、膨大なデータセットで学習す…

今回のメルマガでは、(そう遠くない)AIの未来について想像してみましょう。

AIの仕組みって?

色々なものを「AI」と言っていますので定義が難しいところですが、
ここでいう「AI」とは「大量のデータを元に、妥当そうな判断やデータを作成すること」と定義します。

ここ10年くらいで活用され始めた「ディープラーニング」などは、こうした典型ですね。

例えば、大量の画像から「『りんご』の写真はこれだよ」と教えることで、データの特徴などから『りんご』を識別できるようになる、といったことですね。

言うなれば、過去の延長線上に未来の判断がある、というわけです。

弊社においても、AIを活用しようと考えた時に、まずはデータ収集の開始をしたのは、現場のデータが最重要だと判断したためです。

関連記事

活動中の『農業×IoT』新プロジェクト。 できる限りの機材準備を行い、現地にて設置を行ってきました。 今回は、そうした様子をご紹介いたします。 ※過去レポートは以下を参照ください。 [sitecard subtitle=[…]

データに悪意があると・・・?

どのような判断を下すかは、その元となるデータが非常に重要なものとなります。

では、その元となるデータが、「そもそもおかしい」「悪意のあるようなデータ」だったらどうなるでしょうか。

おそらく、そのデータの質に近しい結果となるでしょう。

このようなAIの学習に、インターネット上のデータが使われることがあります。
インターネットは、基本的に誰でもデータを公開することができます。

つまり、悪意を持って、おかしなデータを公開することができるわけです。

こうしたデータをAIが取り込むと、意図せぬAIとなっていくのではないか、というわけです。

作為的にSNSで民意をコントロールする、といったことがしばしば問題となりますが、AIも同じ危険性をはらんでいます。

未来のAIは、セキュリティと同じく面倒なものになる?

インターネット黎明期は、自由に利便性を謳歌できました。
しかし、今は悪意に満ちていて、様々なセキュリティ対策をし続ける必要がある状況となってしまいました。

オープンなコントロールの効かない世界でAIが稼働し始めると、同じことになってしまうのではないでしょうか。

AIが扱うデータを人間が判断し続ける必要がある。
そんな「データ選別人」みたいな職業が、この先生まれてくるのかもしれません。

メルマガ登録

"意見が持てる" デジタルコラム
『メルマガ Professional's eye』

週1回、3分で楽しめます。


詳細はこちら >>>
送信時点で「Privacy Policy」に同意したものとみなします。
広告を含むご案内のメールをお送りする場合があります。
※ご回答希望の場合は、ご連絡先も記入ください
"意見が持てる" デジタルコラム
絶賛配信中!

メルマガ詳細はこちら >>>

送信時点で「Privacy Policy」に同意したものとみなします。
広告を含むご案内のメールをお送りする場合があります。
   
         
最後までお読みいただき、ありがとうございました。
以下も、ぜひご活用ください^^
出版物
ITmedia
メルマガ
Site Access Log by HTTP Header
>情報システムの

情報システムの"教科書"本を発売中!


■ 情シス、システムコンサルタント、システムエンジニアの方へ
情シスの定石(技術評論社)

■ システムエンジニア、情シスの方へ
2023年10月7日(土)発売
システム設計の教科書(技術評論社)

CTR IMG

■ 著者 石黒直樹による書籍説明動画