February 2023
 

AIが作成したテキストとAIチャットボットの使用を検出する新ツールをChatGPTの開発者がリリース
 

無料で利用可能なAIプログラムChatGPTは、ユーザーによるプロンプト入力をもとに、人間が作成した文章と区別できないような文章を作成できるため、世界中から注目されています。しかし、このツールのみを使って作成された学術的な文章からは、引用が不正確あるいは捏造されているといった、いくつかの重大な欠点が示されています。不備のある研究や捏造された研究が文献として掲載され始めることが懸念される中、出版社は投稿に関する方針の更新を行っています（例えば、こちらまたはこちらをご参照ください）。

ChatGPTの無料利用に対する多くの学会からの反発への対応として、ChatGPTの開発者はこのほど、原稿がChatGPTによって作成されている可能性を特定する検出ツールの提供を開始しました。開発者によるとこのツールはまだ不完全ですが、今後その信頼性を高めていく予定だということです。

 
2023年7月27日更新：ChatGPTの開発者であるOpenAIは、精度の低さを理由にAI検出ツールの提供を停止すると発表しました。信頼性の高いAI検出ツールの開発は依然として課題となっています。例えば、Patterns誌に掲載された研究によると、英語を母国語としない著者によって書かれた論文を評価した場合、現在普及している検出ツールの偽陽性率は61.3％であったことが報告されています。