責任あるAI利用
はじめに
- AIは便利な道具ですが、公正でない目的で使う、誤った使い方、使いすぎなどのリスクが存在します
- ここでは生成AIを使ううえで知っておきたい、一般的・倫理的な注意点を紹介します
- まとめると「無責任な利用はしない」=「責任を持って利用せよ」ということであり、そこでしばしば「責任あるAI利用」と呼ばれます
- 以下で責任あるAI利用を行うために知っておくべきこと、社会で問題となっていることなどをあげておきます
虚偽、不正確情報（ハルシネーション）
- よく知られていることとして、AIは虚偽の情報をでっちあげ、それを自信ありげに出力することがあります。これはハルシネーション（幻覚）と呼ばれています
- また、とくに一部のサービスは利用者の主張や調子に迎合する傾向にあり、会話から得られた結論の信憑性に疑問が生じやすいです。これはSycophansy（迎合）と呼ばれています
- したがって一般的に、提示された情報の真偽の検証、吟味ができないような出力をさせ、それを鵜呑みにすることには十分な注意が必要です。これはAI登場以前から同様でありましたが、AIの場合、人間が著した場合に比べて情報の信憑性を判断する周辺証拠（情報源（組織や著者）、第三者の意見、専門家による査読の有無、著者の実績や過去の著述の傾向、文章であれば文体、口頭であれば口調や表情など）がなく、確からしい情報とでっちあげの情報の区別がつきにくいという特有の問題があります。
- かと言って全てのAIの出力の裏付けを取るというのも現実には困難です。そもそも人間は、AI以外から得た情報あっても、その内容を全て自ら理解し、独立した裏付けをとっていたわけではないでしょう。元々自分が知らなかったことを調査している場合、上記で述べた周辺証拠を用いて情報の信憑性を判断することが多いわけです。
- それを踏まえると本当に注意すべきことは、AIの出力を受け取る部分で疑い深くなることというよりも、それを自分の文書等に取り込んで自分が発信する部分で、そこでAIが出力した情報や成果物に対する責任は利用者が負っているという原則（利用者責任の原則）を理解することです。つまり、デタラメを含んだAIの出力を調査結果として提出した場合に、そのデタラメに責任を取るのはAIの製造業者（製造者責任）ではなくAIの利用者である、ということです
- 世の中ではAIが生成した調査レポートなどを顧客に納入し、参考文献（Reference）に、多くの存在しない文献が挙げられていた、というような事象も発生して、問題になっています
偏り
- AIは、主にインターネット上に存在する大量のデータをもとに学習をしています
- その学習データの分布には偏りがあり、それが出力に引き継がれます
- 例えば学習データの多くを英語圏が占めるため、英語圏の常識や事例が既定値になりやすい
- データ中に多く現れる見解、すなわち多数派の見解が提示され、重要な少数意見の存在が見えなくなることがあり得ます
- 政治的な話題などに関して、開発国や企業による調整がなされていることもあります
- あからさまな虚偽、不正確情報というわけではないことが多く、個々の出力の裏を取る（反駁する）ことは困難なことが多いです
- この文脈では、「責任あるAI利用」は、AIの出力を意思決定の根拠とする場合に、そのような偏り、傾向を念頭に置いて判断することを意味します
著作権などの権利侵害
- 例えばAIに何かキャラクターをデザインさせたら、既にあるキャラクターに似たものがでてくる可能性が十分にあります。また「この写真を「◯◯（作家）」風の絵にして」と指示をして作家の画風を真似した絵を生成させることが可能です。
- このようにして著作権を侵害する可能性があり、特に画像生成AIなどを使う場合に注意が必要です。
- 知っておくべき原則は、著作権の侵害にあたるかどうかを判定するのに、それを生成AIで作ったか否かはおよそ関係ない、というものです。
- 例えば生成AIが出した画像が著作権を侵害しているか否かは、他の手段で作った場合と同様の基準 --- その作品が他の著作物と似ているか（類似性）、その著作物に基づいて作られたか（依拠性） --- に基づいて判断されます。そして、それで侵害が判定されたらそれは利用者であるあなたの責任で、というものです。
- 例えばもしAIで作った作品を公開するとなったら、（他の手段で作った場合と同じように）他の著作物に似すぎていないか（類似性）、ということで判断します。依拠性については、もしAIに、「◯◯（作家）風の絵を書いて」と指示して実際にその作家風の絵がでてきたのであれば依拠したことになると思われますし、場合によってはそのAIの学習データにその作家のデータが使われていたことが依拠性の根拠となるかも知れません。
- 著作権違反は元々判断しがたい境界ケースが多数ですが基本的には既存の著作権法の枠組み内で判断されます。
- したがって生成AIで本格的な創作活動を行うつもりでなければ、上記の「利用者責任原則」を頭に入れておけばよいです。
- 創作活動を行うつもりであれば著作権法を十分に勉強することが重要です。
低品質大量生産（AIゴミ）問題
- AIによって、分量のある文章、報告書、論文、プログラムなどの「成果物」を生産することが容易になりました
- しかしほとんどの成果物は生産したら直ちに完成ということはありえず、想定読者や利用者に読まれる、あるいは使われる前に、別の人が見て校正する、添削する、査読をする、などのプロセスが入るのが普通です
- それらは、成果物の信憑性や品質について、個人ではなく組織として責任を取るための過程といえます
- 例えば学内文書であっても上司や同僚の校正、添削を受けるのが普通ですし、公表する文書の場合はその重要性はさらに強いものになるでしょう
- 学術的な文脈では、論文や著述に書かれている主張の真偽、信憑性を判断できる別の専門家を、学会や出版社が呼んできて査読をする、という過程が挟まります
- ソフトウェアの開発でも、開発者から送られた修正を、実際に使われる製品に取り込むかどうかのコードレビューが行われます
- つまりAIによって成果物を大量に生産することが容易になった一方で、それらの校正、添削、査読をする人の負担が増えるという状況が生まれています
- 世の中では、それらのAIの成果物が低品質である場合を指して、AI slop (AIゴミ) という言葉が生まれています
- それは必ずしもあからさまな虚偽情報、不正確情報を含んだものだけを指すのではなく、校正・添削・査読をする人が期待する水準ではない、より広範なものを指します
- ただしこのように言うと、「慣れない仕事をAIの助けを借りてやるのが悪いことなのか？」「そのような努力に水を指すのではないか？」「AIを利用することで品質・生産性が下がっているわけではないはずだ」という反論・懸念もあると思います
- そう考えるとここでも本当の問題は、AIの出力の品質そのものというよりも、AIを用いた出力に責任を取る、という過程に伴う人間の負担（チェック）という問題だと考えられます
- 例えばある報告書を、Bさん（ビギナー）が最初に書いて、Eさん（エクスパート）が添削するという状況を考えます
- これまで（AI登場以前）はBさんが最初の下書き（初稿）を書くのにかなりの負担をし、それをEさんが添削するという過程でした
- そこでは、たとえ初稿の品質が多少悪くても、負担は適切に分割されています（むしろBさんの負担が大きいのが通常でしょう）し、今後の成長も含めてEさんは添削をします
- それが、初稿がいとも簡単に生成できるようになり、それをそのままEさんに送ったら、本来共同で受け持つべき責任の一部をBさんが受け持っているとはいえない状況になります
- Bさんも、AIの出力に対する責任をとることに自分なりのベストを尽くす、その期待値合わせを行うことが重要と言えます
- 学術的な文脈では、現状では多くの学会・学術誌がAIが著者となることを認めていません
- AI利用の開示が求められることが普通で、守らなければ研究不正になり得ます
- ここでも根本にあるのは、生産はAIによって非常に容易になる、したがって多くの学会で論文の投稿数が急上昇している、それがその品質チェックを行う査読者の負担を大きく増やしている、という問題です
- ソフトウェア開発の文脈では、AIを使って発見したと思われる大量の脆弱性報告への対応が、開発責任者のburnoutを招いているという事例が報告されています
次に読むとよいページ