私たち自身もゲーマーです。競争の激しいWoWのギルド活動やMOBAを経験してきました。ゲームとコミュニティが、人にとってどれほど大きな存在になるかを知っています。Summerを、誇りを持って時間を過ごせる場所にしたいのです。

だから、その場所を壊しかねない問題にも向き合います。安全は、製品のほかの部分を作り終わってから思い出すものではありません。エンジンやストア、人がつながる方法と一緒に考えるものです。

人々が出会い、金銭のやり取りも起こるプラットフォームでは、加害目的での接近、搾取、違法な取引、金融上の不正、深刻な嫌がらせが現実の問題になります。新たなAIの悪用も、継続して向き合うべき問題を生みます。

悪用を試みる人は現れると考えています。それを真剣に受け止め、学び、保護を改善することが仕事です。「被害は絶対に起きない」と言ってしまえば、間違った理由で信頼してもらうことになります。

挑発的な言葉も、対戦ゲームの一部になることがあります。友達同士で冗談を言うこともありますし、大人は子ども向けとは違う体験を選べます。すべての会話を、同じ丁寧な世間話のルールに押し込めたくはありません。

年齢、文脈、そして相手が本当にそのやり取りを歓迎しているかが大切です。友達と呼んでいるからといって、搾取が許されるわけではありません。一つの単語や自動評価だけで、すべての状況を説明することもできません。安全上の判断では、遊びに来た人の楽しみと、誰かを傷つけている行為を区別する必要があります。

誰向けのゲームか、どんな内容か、どのように交流するかは、遊び始める前にわかるべきです。保護者やプレイヤーが判断に必要とする体験も含め、ゲームで起きることを説明する責任が制作者にはあります。

保護者向けの設定は、子どもが何を見て、何を遊べるかを、家庭で意味のある形で選べるものであるべきです。大人向けと子ども向けのゲームでは、対応も異なります。それは、全体を子ども向けのおもちゃにするのではなく、異なる対象者のための場所を作ることです。

コミュニケーションは、一緒に遊ぶ助けになります。一方で、加害目的で近づいたり、違法な行為を手配したり、有害なやり取りを別の場所に移したりするために使われることもあります。だからこそ、チャットの安全を真剣に考えます。

AIは確認すべき兆候の発見を手伝えますが、「AIが監視する」だけでは、仕組みの説明になりません。どんな情報を処理し、誰がアクセスでき、どう保管し、どう判断するのかを、人々は知るべきです。プライバシーについて質問するのは当然のことです。モデルの出力を、モデルが間違えない証拠として扱いません。

安全に関する判断も、間違うことがあります。影響を受けた人には、関係する理由を理解し、その判断に異議を申し立てる方法が必要です。自動化された兆候に頼る仕組みでは、異議申し立てが特に重要になります。

ルールは、適用される法律や、遊んでいる状況も考慮しなければなりません。人の意見を取り締まる場にすることなく、その責任をわかりやすく説明したいと考えています。

これらの問いは、Summerがどんな場所になるかに関わります。プレイヤー、保護者、クリエイター、安全・プライバシー・悪用防止に携わる人から意見を聞きたいと思っています。問題に気づいた方、この仕事に関わりたい方は、founders@summerengine.comまでご連絡ください。

Summer Engineの利用規約とプライバシーポリシーは、Engineのサービスについて説明するものです。Summer Games、交流機能、クリエイタープログラムに必要な個別のルールや説明に代わるものではありません。