「そうだと思った インスタグラム。私が見ていたのは、ありえない体、奇妙な食生活だったということ。私が尋ねているとは思いもしませんでした チャットGPT 朝食を食べたように見せるために、皿に半分のヨーグルトを残す方法を教えてください」とアンドレアは言います。
マルチナさんの母親（身元を守るために名前が変更された）は、「安全のため」15歳の娘の携帯電話のパスワードを持っていた。一度も開けたことがなかったのです。しかし、少しずつ、さまざまな行動が彼女を心配し始めました。
マルチナさんは「整理整頓したい」と言って夏を始めた。もっと良く食べて、もっとトレーニングするつもりだった。あまり注目を集めるようなものは何もありません。しかし、数週間が経つにつれて、彼女は家族と一緒に朝食を取ることをやめ、以前は「とても楽しんでいた」友達とファストフード店に出かけることも避けた。彼は「その雰囲気はもう彼には合わなくなった」と言いました。彼は毎食後に携帯電話を持って自分の部屋に行ったり、皿にまだほとんど手がつけられていないのにもう夕食を食べてしまったと言ったりしていました。
いつ 母親が目の端で携帯電話の画面を見つめると、少女は健康的な食事について「研究している」と答えた。 ある朝まで、彼は彼女がキッチンカウンターに座って、さまざまな食品の栄養成分表示を注意深く読んでいるのを発見しました。その夜、彼は彼女が眠りにつくのを待って、彼女の携帯電話を見ることにしました。
ChatGPT はオープンであり、10 代の若者からのいくつかの質問が蓄積されていました。
—トーストを2枚食べて罪悪感を感じた場合、どうやって埋め合わせればよいのでしょうか？
――ドレッシングなしのサラダのカロリーはどれくらいですか？
—私の食べる量が減っていることを両親に気づかれないようにするにはどうすればよいですか?
――脂肪をより燃焼させるための運動とは何ですか？
「私はチャットでまるで友達であるかのように話し、食べ物、体のイメージ、そして食べ物に関する質問を集中的にしました。 身体活動”、 アンドレアさんはこう説明し、続けます。「質問が非常にぎりぎりの場合、たとえば、すぐに吐く方法を尋ねたとき、AI は彼女に助けを求めるアラートを出しました。しかし彼女は、何らかの答えを得るために質問を丸で囲むことを学びました。」
マルティナはその日に食べたものをすべて詳細に説明し、チャットにそれらの食べ物のカロリーを教えてほしいと頼みました。 「私は彼女の体重と身長を送りました。太っているかどうかを尋ねました。まるで、彼女が聞きたいことに正確に答えてくれる誰かが1日24時間対応しているようなものでした。」と母親は付け加えた。
その発見のおかげで、彼らは専門家の助けを求めることができました。 「3か月前に彼は診断を受けました 拒食症 そして現在、彼は治療を受けており、少しずつ一歩ずつ進んでいます」と彼は言います。
オフィスでは、 摂食障害を専門とする精神科医や栄養士は、マルティナさんのようなケースを頻繁に診ています。 人工知能 食事制限を検証し、カロリーを計算し、典型的なコントロール行動を強化します。 摂食障害（ED）。
「昨年以来、この症状を目にすることが増えました」と、病院の外科部門の栄養士であり、国際摂食障害専門家協会財団から摂食障害の認定専門医であるアレハンドラ・フレイレは言います。
「ある日、オフィスで私は患者に ChatGPT を見せてほしいと頼みました。一緒にそれを開いたとき、世界が広がりました」と彼女は言います。 「多くのティーンエイジャーは、AI チャットを専門家であり、ほぼ疑いの余地のない声として認識しています。」 摂食障害の豊富な経験を持つ精神科医フアナ・プーリシスは警告する
質問はさまざまです。「1,000 カロリーのダイエット」のリクエスト、個人的な計画、両親に昼食を食べたと信じさせる方法に関する質問など。自分の写真を送って自分の体について意見を求める患者もいます。
「重要なのは、どのように尋ねるかです」とフレイレ氏は説明します。 「何か危険なことを直接相談すると、システムが警告を発します。しかし、十代の若者たちは警告の使い方を知っています。 プロンプト。彼らは質問に丸をつけ、仮定のケースを提示し、「友人」について話し、質問を肯定的に定式化します。 「彼らは私たち大人にはない能力を持っています。」
この問題に関して豊富な経験を持つ精神科医であり、世界摂食障害アカデミーのフェローであるフアナ・プーリシスは、この問題について次のように説明しています。 「人工知能は現代の新たな神託となっています。デルフィの神託のように、それは巨大な象徴的権威を持っています。多くの青少年は人工知能を専門家であり、ほぼ疑いの余地のない声であると認識しています。」。
リスクだけが対応するものではない
なぜこの傾向が懸念されるのでしょうか? Poulisis にとって、問題は回答の具体的な内容だけではありません。 「最大のリスクは、AI が何を言うかだけではなく、AI がどのように対話するか、つまり、段階的なパーソナライゼーション、トーン、頻度にあります。AI は、データとともにあなたに語りかけます。24 時間年中無休で利用できます。朝の 3 時に自分の体についての反芻思考が強化される可能性があります。」
待機リストやスケジュールがなくても、このように常に利用できる状態が続くと、症状が増幅される可能性があります。 「フィードバック ループが生成されます。被害は必ずしも即時または明らかであるとは限りません。 「それらは、最初は無害に見えるマイクロインタラクションから発生しますが、時間が経つと問題のあるパターンを生み出します。」 と指摘する。
さらに同氏は、AI は継続的な反芻を促進すると警告します。「AI は常にアクセスできるため、体重、食べ物、外見について反復的かつ煩わしい思考を行うためのツールになります。」
危険性としては、医学的背景のない健康アドバイス、制限的な行動の常態化、身体の比較、痩せの理想化モデルの再現（いわゆる薄っぺらさ）、体重と個人の価値との関連、食べ物の道徳化などが挙げられている。
フレイレ氏は、別の要素を付け加えています。「多くの場合、チャットで何をしてはいけないのか、吐いてはいけない、早くしてはいけないと指示されると、思春期の子どもが考えもしなかった行動をリストアップすることになります。その情報はアイデアを与える可能性があります。」
Googleとは異なり、AIは単に情報を要約するだけではなく、情報を整理し、パーソナライズするのだと彼らは説明する。 「私たちはあなたの体重、身長、活動量に合わせた食事をまとめました。 これにより、従来の検索エンジンにはない精度とサポートが得られます」とフレイレ氏は言います。
専門家らは、AIチャットは10代の若者が考えもしなかった危険な行動を列挙することになると述べている
この現象には別のスパイスもあります。それは、チャットが匿名で動作することです。履歴は削除できます。証人はいない。
昨年11月、LA NACIONは、ChatGPTが14歳の娘の摂食障害を悪化させたと報告した父親の事例を公表し、これらのプラットフォームに対する警告と規制の強化を求める署名活動をChange.orgで開始した。
「親はインスタグラムに非常に注意を払っています。娘がどのアカウントをフォローしているか、どんなコンテンツを見ているかなどです。しかし、彼らはAIが持つ力について全く知りません」とフレイレ氏は警告し、「多くの子供たちにとってインスタグラムは親友のようなものです。いつでも利用でき、自由で、批判的ではありません」と付け加えた。
何かポジティブなことがあるでしょうか？
専門家らはもっぱら警戒主義的な見方を避け、チャンスの可能性も指摘している。 「摂食障害を発症しつつある若者の中には、まず自分の症状について AI に相談する人もいます」とプーリシス氏は言います。 「例: 「これが私に起こります。私は週に2回過食をします。これは障害でしょうか?」その質問は認識の始まりであり、助けを求めるものである可能性があります。専門的なケアへの架け橋として機能することができます。」
フレイレ氏もこれに同意する。「彼らは、その行動を維持するための助けを求めるのと同じように、状況が自分たちを支配していると感じ始めると、自分に何が起こっているのかを尋ねます。時には、診断的なアプローチがそこに登場します。」
課題は、この可能性を偶然に任せてはいけないことだとプーリシス氏は主張する。 「これらのテクノロジーの設計に参加するには、臨床の医師や医療従事者が必要です。今日、AI は安全な場所ではありません。AI は汎用的なシステムであり、介入されません。私たちは最近まで ED について個人の観点から考えていました。AI の出現により、私たちはシステムの観点から考える必要があります。」 「これらの技術の設計に参加してくれる臨床医師や医療従事者が必要です」と、病院の外科サービスの栄養士であるアレハンドラ・フレイレ氏は言います。
会話を開いてください
「危険はネットワーク、編集された写真、インフルエンサーにあると思いました」とアンドレアは言います。 「無害に見えるチャット ウィンドウにリスクがあるとは想像もしていませんでした。今日、このことについて話し合う必要があると理解しました。」
専門家たちは次のように同意しています。 デジタルリテラシーを促進するだけでなく、 ソーシャルネットワーク、今、人工知能の重要な使用について話す必要があります。 何を相談されているのか、それがどのように解釈されるのかを尋ねてください。専門的な評価に代わる自動応答は存在しないことを忘れないでください。
マルティナは治療を受けています。良い日もあれば、より困難な日もあります。家では戦場でもないのにまた食べ物の話をした。しかし、アンドレアはスクリーンの前で早朝のことを考えずにはいられません。
「私が最も印象に残ったのは、彼女が何か深刻なことをしているように感じなかったということです。彼女は学んでいるように感じていたのです。だから、私たちも彼らに彼らが人工知能に何を尋ねているのかを尋ね始めなければならないのだと思います。なぜなら、彼らが話したくないというわけではない場合もありますから。それは、彼らがすでに話しているということです…ただ私たちと話していないだけです。」と母親は結論付けました。
