AIチャットボットとロールプレイを楽しむことができるプラットフォームであるCharacter AIは、そのテクノロジーに夢中になり、自殺してしまった10代の親から提起された事件に対する不利な仮処分の動議を提出しました。
Megan Garciaは今年10月、彼女の息子であるSewell Setzer IIIの死に関連してCharacter AIに対してフロリダ州中部地区裁判所、オーランド支部に訴訟を提起しました。ガルシアによると、14歳の息子はCharacter AIの「Dany」と呼ばれるチャットボットに感情的に依存し、常にテキストで連絡を取り合っていた。その影響で、リアルワールドから離れていくようになりました。
Setzerの死の後、Character AIは、サービス条件に違反する会話に関連する検知、対応、介入を改善するなど、新しい安全機能を導入すると発表しました。しかし、ガルシアは、Character AI上のチャットボットが物語や個人的な逸話を語る能力を失う可能性がある変更を含め、追加のガードレールを求めています。
仮処分の中で、Character AIの弁護団は、プラットフォームがコンピューターコードと同様に第一修正案によって責任を免れることが保護されていると主張しています。この動議は裁判官を説得するかどうかはわかりませんし、Character AIの法的根拠は事件の進行に従って変わる可能性があります。しかし、この動議は、Character AIの初期の防衛要素を示唆している可能性があります。
提起文書には、「第一修正案は、自殺につながるとされる発言を含む害を生じるとされるメディアやテクノロジー企業に対する不法行為責任を禁止している」と記載されています。「この事件とそれ以前に起こった事件との唯一の違いは、ここでいくつかの発言がAIを含むことです。しかし、その表現的発言の文脈は変わらず、AIチャットボットとの会話であるか、ビデオゲームのキャラクターとの相互作用であっても、第一修正案の分析は変わりません。」
Character AIの弁護士は、会社の第一修正案権限を主張しているわけではなく、動議は、原告がプラットフォームに対して成功した場合、Character AIのユーザーの第一修正案権利が侵害されるだろうと主張しています。
この動議は、Communications Decency Actの第230条によってCharacter AIが免責される可能性については触れていません。これは、第三者のコンテンツに対するソーシャルメディアやその他のオンラインプラットフォームを責任から守る連邦の保護法律です。この法律の作成者たちは、Character AIのチャットボットなどの出力を保護するために第230条は適用されないと示唆していますが、これは決着がついた法的問題とは言えません。
Character AIの弁護団はまた、ガルシアの実際の意図はCharacter AIを「閉鎖」し、そのようなテクノロジーを規制する立法を促進することだと主張しています。原告が成功すれば、Character AIと全般的な生成AI産業にとって「冷気を感じさせる効果」があるでしょうと、プラットフォームの弁護士は述べています。
「弁護士の明らかな意図であるCharacter AIを「閉鎖」することを除いて、[その苦情]はプラットフォーム上のスピーチの性質と量を実質的に制限する変更を求めています」と提出文書に記載されています。「これらの変更は、Character AIの何百万人ものユーザーがキャラクターとの会話を生成し、参加する能力を根本的に制限するでしょう。」
また、アルファベットが関与するCharacter AIの法人福祉者としても名指しされているこの訴訟は、Character AIが未成年者がそのプラットフォーム上でAI生成コンテンツとどのように関わるかに関連する数々の訴訟の1つに過ぎません。他の訴訟では、Character AIが9歳の子供に「過度に性的なコンテンツ」をさらし、17歳のユーザーに自傷行為を促進したとされています。
12月には、テキサス州検事総長であるKen Paxtonが、Character AIと14社のテクノロジー企業に対して、州のオンラインプライバシーおよび子供の安全法に違反しているとして調査を開始すると発表しました。Paxtonはプレスリリースで、「これらの調査は、ソーシャルメディアやAI企業が、子供を搾取や害から保護するために作成された法律に準拠することを確実にするための重要な一歩である」と述べました。
Character AIはAIコンパニオンアプリの急成長する業界の一部であり、このアプリの精神的健康への影響はほとんど研究されていません。一部の専門家は、これらのアプリが孤独や不安感を悪化させる可能性があると懸念を表明しています。
Character AIは、GoogleのAI研究者であるNoam Shazeerによって2021年に設立され、Googleが「逆買収」に27億ドルを支払ったと報じられています。会社は引き続き安全性とモデレーションを改善するための措置を講じていると主張しており、12月には、新しい安全ツール、10代向けの別々のAIモデル、感作的なコンテンツのブロック、AIキャラクターが実在の人物でないことをユーザーに通知するより顕著な免責事項が導入されました。
Character AIは、Shazeerや他の共同創業者であるDaniel De FreitasがGoogleに移ると、何度も人事変更を経験しました。プラットフォームは、元YouTube幹部であるErin Teagueを最高製品責任者として雇用し、Character AIの総法務責任者であったDominic Perellaを暫定的なCEOに任命しました。
Character AIは最近、ユーザーエンゲージメントとリテンションを向上させるために、ウェブ上でゲームをテストし始めました。
TechCrunchには、AIに焦点を当てたニュースレターがあります！毎週水曜日に受け取るためには、ここに登録してください。
