OpenAI、数百人の契約労働者を使いChatGPTのチャットを読む
OpenAIはチャットボットの改善のため、数百人の契約労働者を雇い、ChatGPTのユーザー会話を読んで評価している。会話には機密性の高い個人情報が含まれる場合がある。ユーザーはオプトアウトできるが、その設定は分かりにくい場所にある。
openaiは、チャットボットの応答を改善するため、実際のchatgptユーザーの会話を読む数百人の契約労働者を雇用している。レビュアーは1から7のスケールでchatgptの応答を評価し、モデルの出力における過度なお世辞や人間らしい振る舞いを減らすことを目指している。契約労働者はcrossing hurdlesを通じて採用され、AIトレーニング企業mercorを通じて報酬が支払われており、北米在住のレビュアーの中には時給50ドル以上を稼いでいる者もいる。ユーザーは「improve the model for everyone（全員のためにモデルを改善する）」の設定をオフにすることで、自分のチャットがモデルのトレーニングに使用されたり、人間に読まれる可能性があったりするのを防ぐことができるが、この設定は新しい会話にのみ適用され、明確に開示されてはいない。openaiはプライバシーフィルターも使用しているが、誤りが生じる可能性があることを認めている。