AIは、多くの分野に大きな影響をもたらす有益な技術革新です。非常に便利である反面、注意すべきこともありますので、今回はその点についてご説明します。

◆AIは嘘をつく

2024年末、アメリカの弁護士がAIで作成した架空の判例を訴訟資料として提出する事件がありました。AIはインターネット上の膨大な情報をこちらの指示通りにまとめる便利なものですが、間違った情報を提示することがあります。これはAIのハルシネーション（幻覚・妄想）と呼ばれ問題になっています。存在しない医学用語を作り出した例もあります。

◆AIは自信満々

「安定動作する最終安全版」「これなら大丈夫です」「完全防御バージョン」。これらは全て、当社でＡＩを利用してプログラミングを作った際の返答です。何度繰り返してもエラーがなくならないのですが、それでもAIは毎回このように答えます。

冒頭のようなAIによる架空の判例が問題になったことは初めてではなく、裁判所から警告が出されていたにもかかわらず、発生しました。その弁護士は、「AIに確認したところ、大丈夫だと回答があった」と弁明したそうです。

◆最終責任は自分で持つ

あるホームページにおける特定のページを要約して評価するようAIに指示したところ、回答がおかしいため確認すると、AIはそのページを読み込んでいなかったことがありました。AIの回答はそのまま信用できない面があります。特に、医療は人体・人命に直接関わる行為を含みますので、AIはあくまで参考程度に、最終的には自分で責任を持って確認する姿勢が重要です。