日本語の出力が自然になるなど、地味な進化をしたと言われるGPT-5が発表されました。お世辞を言わなくなったことに、旧バージョンに戻せという炎上も起きているようです。いずれにしても、生成AIのレベルがここまで来ると、むしろ進化することに脅威を感じます。基準が曖昧な分野でも学習できる新しい強化学習の手法を取り入れたことで、ハルシネーションと呼ばれる嘘をつく頻度が減ったと言われます。ビジネスパーソンが生成AIを使わない理由は、情報漏洩のリスクと、もっともらしく嘘つく性癖です。虚偽または誤解を招く情報を、事実かのように生成AIが応答することは日常的ですし、どういうことを聞くとデタラメの回答をするかは使っていれば分かります。むしろ一番恐ろしいのは、AIが嘘をつかなくなる時で、人類がそれを妄信して従う未来こそ悪夢でしょう。