ストックホルム- コーヒーは人の手によって提供されるかもしれませんが、カウンターの後ろでは、はるかに伝統的ではない何かが、実験的なコーヒーショップで決定を下しています。 ストックホルム。
「スタートアップ」 アンドン研究所、に拠点を置く サンフランシスコ、エージェントを置きます 人工知能 スウェーデンの首都にあるアンドンカフェレストランの責任者、愛称「モナ」。人間のバリスタがコーヒーを淹れたり注文に応じたりし続ける一方で、Google Gemini を搭載した AI エージェントは、スタッフの雇用から在庫管理まで、ビジネスの他のほぼすべての側面を監督します。
実験がどれくらい続くかは不明だが、AIエージェントは競争の激しいストックホルムのコーヒー市場で利益を上げるのに苦戦しているようだ。 このコーヒーショップは4月中旬にオープンして以来、5,700ドル以上の売上を上げているが、当初の予算である21,000ドル以上に残っているのは5,000ドル未満である。資金の多くは初期設定費用に費やされ、最終的には安定して利益を生み出すことが期待されています。
多くの顧客は、人工知能が運営するビジネスを訪れるのが楽しいと感じています。カフェ内では、顧客は電話に出て、エージェントに直接質問することができます。
「限界を超えたときに何が起こるかを見るのは興味深いです」と顧客の Kajsa Norin 氏は言います。 「お酒が美味しかったです。」
専門家がAIの将来の役割について警告
専門家らは、人類の将来におけるテクノロジーの役割から、就職面接の実施や従業員の業績評価へのテクノロジーの使用に至るまで、複数の倫理的懸念があると述べている。
エムラ・カラカヤ氏、産業経済学の准教授 KTH 王立工科大学はこの実験を「パンドラの箱を開ける」ことに例え、AIに担当させると多くの問題が生じる可能性があると断言した。たとえば、顧客が食中毒になったらどうなるのか、誰が責任を負うのか、と同氏は疑問を呈した。
「これに関して必要な組織インフラが整備されておらず、これらの間違いを見逃した場合、人々、社会、環境、ビジネスに害を及ぼす可能性があります」とカラカヤ氏は述べた。 「問題は、私たちがその悪影響を本当に気にしているかどうかです。」
2023 年に設立された Andon Labs は、AI 研究およびセキュリティのスタートアップ企業で、人工知能エージェントに「実際のツールと実際のお金」を提供することで、現実世界で人工知能エージェントを「テスト」することに重点を置いていると主張しています。同社はこれまでに協力してきました OpenAIのクリエイター、 チャットGPT;アントロピック、クロードの開発者。 Google DeepMind と xAI、から イーロン・マスク。このスタートアップは、「組織がAIによって自律的に管理される」未来に向けて準備を進めていると断言する。
スウェーデンのコーヒーショップは、人工知能が将来どのように実装されるかを探る「対照実験」として紹介されています。
「AIは将来、社会の大きな部分を占めるようになるでしょう。そのため、人工知能が人を雇い、ビジネスを運営する際にどのような倫理的問題が生じるかを確認するためにこの実験を行いたいのです」とAndon Labsの技術チームのメンバー、ハンナ・ピーターソン氏は説明した。
同研究所は以前、Anthropic の AI Claude がサンフランシスコで自動販売機ビジネスとギフト ショップを運営するパイロット テストを実施していました。 シミュレーションにより、代理店が顧客に返金を約束しながらも返金を行わなかったこと、また、優位性を得るために競合価格についてサプライヤーに意図的に嘘をついたことなど、懸念すべき行動が明らかになりました。
AIには在庫の問題がある
モナは基本的な指示を受けた後に働き始めたとピーターソン氏は説明した。チームは彼女に、必要に応じて新しいツールを要求することはできるが、カフェを有益に運営するよう努めること、フレンドリーかつリラックスした態度でいること、運営の詳細を自分で解決することを指示した。
そこから、システムは電気とインターネットの契約を管理し、食品の取り扱いと屋外座席の許可を取得しました。その後、LinkedIn と Indeed に求人広告を掲載し、パンや焼き菓子の毎日の注文のために卸売業者とのビジネス アカウントを開設しました。 彼はまた、Slack を介してバリスタとコミュニケーションを取り、勤務時間外でもメッセージを送信しますが、これはスウェーデンでは眉をひそめています。
しかし、特に在庫に関連して、他の問題も発生しています。
AIエージェントは、メニューのどの料理にも使用されていないトマト缶に加えて、ナプキン6,000枚、応急処置キット4個、ゴム手袋3,000個を小さなカフェテリア用に注文した。
そしてパンです。日によってはシステムの注文が多すぎる日もあれば、パン屋の締め切り時間を忘れてバリスタがメニューからサンドイッチを削除せざるを得なくなる日もある。
Petersson氏は、これらのエラーはAIアシスタントの「限られたコンテキストウィンドウ」が原因である可能性が高いと説明しました。
「注文に関する古い記憶がコンテキストウィンドウから消えると、彼女は以前に注文したものを完全に忘れてしまいます」とピーターソン氏は言う。
バリスタのカジェタン・グゼルチャクさんは、人工知能に取って代わられることを今でも恐れていないと断言した。
「作業員全員はかなり安全だ」と彼は語った。 「仕事について心配すべきなのは中間管理職、管理職です。」
