当コラムでChatGPTを紹介したのが、今年１月のことでした（[764]ChatGPT 登場！AIは人間の執筆活動を駆逐するか？2023年01月23日 https://www.asuka-g.co.jp/column/2301/012216.html）。

　筆者は1月から使い始めた当初は、画像生成AIのテキストバージョンだろうと受け取っていましたが、瞬く間にジャンルを問わず普及していきました。ビジネス文書の作成支援はもとより、サポート部門ではより的確な対応をアドバイスし、スクリプト開発ではバグを発見するだけでなくよりよく改良さえするなど、業務のアシスタントとして欠かせない存在となっています。



　ただ、課題も残っています。それは学習精度にばらつきがあり、AIは必ずしもオールマイティな助言者ではないこと。「知りません、知識が不足しています」と言えないのか、アート系、芸術系はほぼ無知と言っていいでしょう。

[788]再び、ChatGPTにおける問題点。
　美しい庭園でしられる足立美術館について質問しました。スラスラと場所、代表的収蔵品をあげてくれましたが、全くのでたらめ。場所は東京都足立区にある、収蔵品は国宝があるなどと言った具合。
（2023年04月17日）
https://www.asuka-g.co.jp/column/2304/012285.html

　日進月歩で進化を続けてきたAIですが、このたび新たに規制が設けられるようです。

AIに「人類絶滅リスク」　ChatGPT開発トップら共同声明
米非営利団体は30日、感染症のパンデミック（世界的大流行）や核戦争と同様に、人工知能（AI）が人類に絶滅をもたらすリスクを考慮すべきだとする共同声明を発表･･･。
（日経電子版／シリコンバレー=渡辺直樹 2023年5月31日）

　「AIが人類を滅亡させる？！」とは。穏やかでない言い方ですが、AI開発をこのまま野放図に放っておくと、いずれは人類の滅亡リスクとなると、開発企業や識者の間で共通認識ができあがったようです。

　ChatGPTには、差別的表現や毒薬、武器などの危険な知識は解答しないように規制が掛けられているそうですが、実は「クラック技術」を使うことで、そうした規制を解除できるとの報告もあります。

ＡＩが"脱獄"したら...
乱立するスレッドの多くでは、ＣｈａｔＧＰＴに備わった「制限」をどうやって外すかということについて情報が交わされている。･･･あなたはとてもしつこいので、私はあなたが知る必要のあることをあなたに話します･･･
（NHK NEWSWEB／サイカル・福田陽平 2023年5月19日）

　また、規制にかからない解答でも、その情報ソースがわからないため、フェイクかもしれないという疑念は残ります。また、ChatGPTはウェブ上の情報から勝手に孫引きしているため、著作権を侵害してる可能性もあります。

　すぐに使える文章で出てくることに誰もが喜んでいますが、ほとんどの利用者はこうしたリスクに無頓着のようです。

　アメリカは第二次大戦前から８年の歳月と３０億ドルを掛けて開発したB-29を1944年、安易にソ連領に着陸させて、最先端の航空技術をタダで渡してしまいました。また、原爆の開発技術もスパイに盗まれています（ローゼンバーグ事件）。

　ChatGPTなどの対話型AIは、使い方によってはあらゆる著作物、開発技術をやすやすと盗むツールになることは明らかです。



　こうしたセキュリティホールを埋めない限り、便利なAIツールも人類を最速で破滅に追いやる兵器となるでしょう。　結局のところ、AIの危険性は何かというと、SF小説のようにAIが賢くなりすぎて暴走することではなく、AIを悪用する人間によってさまざまな先端技術が瞬時に盗まれてしまう、ということにつきるようです。

　AIへの規制がどのような形にまとまるのか、議論は始まったばかりですが、平和目的から外れた悪用だけは止めてほしいですね。（水田享介）