流出文書で判明、生成AI「有害プロンプト防御」開発の過酷な戦い…人間が残酷な文字列を書き、報酬を得ている

国際ニュースまとめ

Scale AIの安全プロジェクトでは、フリーランサーに「有害な」プロンプトの作成を依頼しています。入手した社内文書では、フリーランサーがどのように教育されているかが示されています。
Source: ビジネス インサイダー ジャパン