チャットGPTに子ども向け安全策、より「人間らしくない」仕様に
画像提供, Getty Images
ゾーイ・クラインマン・テクノロジー・AI担当編集長
人工知能（AI）チャットボット「チャットGPT」を運営する米オープンAIは18日、18歳未満のユーザー向けの安全機能を導入すると発表した。
新たに10代向けアカウントを作成したユーザーは、音声応答機能をオフにすることで、チャットGPTが人間のように思える可能性を最小限に抑えることができる。
オープンAIはまた、定期的にツールの使用を一時中断するよう促すメッセージも導入した。これにより、若者ユーザーにチャットGPTはAIであること、そして「後回しにしても構わない」ことを伝えるという。
同社はこれらの措置について、子どもたちがチャットGPTを生きていると信じるという特定の問題への対応ではないと述べている。しかし、自分たちがやり取りするAIツールに感覚があると人々が確信するようになることに対し、社会で懸念が高まっている。
米マイクロソフト（MS）のAI部門責任者であるムスタファ・スレイマン氏は昨年、「意識を持っているように見える」AI製品が社会に与える影響を非常に懸念し、「夜も眠れない」と述べていた。
オープンAIが発表した子ども向けの安全措置は、大手ソーシャルメディアが開発してきたモデルを大まかに踏襲しているようだ。
若者向けのチャットGPTを発表するブログ記事の中で同社は、ティーンエイジャーのAI利用は「彼らの発達段階を反映し、現実世界での人間関係を強化し、長期にわたって健全な利用を支援する保護措置を伴うべきだ」と述べた。
同社によると、登録時に自身を10代と申告したユーザーや、同社が18歳未満と判断したユーザーは、10代向けアカウントがデフォルト設定となる。
しかし、10代の若者を特定する方法については、詳しく説明しなかった。
13歳未満はチャットGPTを使用できない。
学習モードと静かな時間
チャットGPTは昨年、学生向けに学習モードを導入した。これは、答えを明かさずに学校の課題について音声で解説する機能だ。
10代向けアカウントでは今後、学習モードの時間帯を設定できるようになり、その時間帯は学習モードがデフォルト設定となる。
また、設定した時間帯にチャットGPTが自動的にオフになる「静音時間」機能も設けた。
オープンAIによると、チャットGPTを使う若者の10人中9人が、学習支援のために利用しているという。
英シンクタンク「ポリシー・エクスチェンジ」が17日に発表した報告書によると、イギリスの大学の大多数は現在、遠隔で実施されるオンライン試験に依存しているため、学生がAIを使って成績を向上させる問題に直面しているという。
この報告書によると、調査対象となった学生の94％が、試験にAIを使用していることを認めたという。
オープンAIはまた、摂食障害をテーマにしたプロンプトを、有害なユーザーリクエストのリストに追加し、保護者のアカウントに警告を発するようにする予定だ。
同社によると、これらの警告は送信前に人間が確認し、リクエストから1時間以内に保護者に届けることを目指しているという。
開発ブログでオープンAIは、「オフラインサポートが最も重要となる瞬間」に注力すると述べた。
画像提供, OpenAI
イギリスには現在、AIに関する独自の規制は存在しない。キア・スターマー前首相は、子どものソーシャルメディア利用に関するその他の改革と並行して、18歳未満のAIチャットボット利用の制限を検討していた。
米アンソロピックのAIツール「クロード」は、利用が成人に限られている。米グーグルがAIツール「ジェミニ」（当初は「バード」と呼ばれていた）を発表した際も、子どもの利用は許可されていなかった。
英グレート・オーモンド・ストリート病院の画像診断医で、AI研究者でもあるスーザン・シェルマーディン氏は昨年、BBCに対し、医師が喫煙や飲酒の習慣について尋ねるのと同じように、いずれは患者にAIの使用頻度について尋ねるようになるかもしれないと語った。
「超加工食品が体に及ぼす影響は既に分かっている。これは超加工された情報だ。これから超加工された思考が、雪崩のように押し寄せてくるだろう」と、シェルマーディン医師は述べた。
