AI電話対応は即名乗り義務化―EUのAI法、透明性新規則が始動

EUのAI規則（AI Act）に基づく新たな透明性要件が施行された。チャットボットとの会話、AI電話受付とのやりとり、AIが生成した動画や写真——これらすべてに共通するルールが一つ加わった。相手がAIであることを、利用者に対して即座かつ明確に知らせなければならないという義務だ。世界で初めて包括的なAI規制として2年前に発効したAI法は段階的に適用範囲を広げており、今回はその中でも特に日常生活に直結する「透明性」の章が動き出した。

ロッテルダムの歯科医院が映す現実

抽象的なEU規制の議論に先んじて、オランダではすでにAI電話受付の導入が進んでいる。ロッテルダムの「フライ歯科」では昨年夏からAIアシスタント「エヴァ」が患者の電話を受けている。歯科医のステファン・ペウレン氏は「最初は疑問もあったが、受付スタッフの人手不足でほかに選択肢がなかった」と振り返る。AIスタートアップVoicelabsのアンワル・サフラウイ氏と共同で歯科市場向けにカスタマイズした結果、エヴァは24時間365日、休みなく予約受付をこなす存在になった。

患者の反応は二分される。「最初は戸惑ったが、礼儀正しくて何でも理解してくれるのには驚いた。ただ、人と話せなくなったのは少し残念」と語る患者の声は、AI受付が普及する現場のリアルを端的に表している。ペウレン氏も、人間のスタッフと話したがる患者が一定数いることを認めつつ、「その手段は今も確保してある」と強調する。

義務の中身と適用範囲

新ルールが求めるのは「名乗り」だけではない。Voicelabsのようなサービスを利用する企業は、人間のスタッフへ転送できる電話番号の登録が義務付けられる。AIと話したくない利用者が必ず人間に繋がれる経路を確保するためだ。個人データ保護当局（Autoriteit Persoonsgegevens）はAI法の監督機関として、この要件がAIを使ったテレビCMの画像にも及ぶと確認している。ただし適用には条件があり、スーパーマーケットチェーンのAldiは「CMの台本は人間が書き、読み上げにのみAI音声を使った」として、音声へのAI表示は不要との立場をとっている。一方で同社がCM内でAI生成画像を使う場合は表示が必要で、当局もこれを適法と認めている。

施行のタイミングも明確に区分されている。既存のAIシステムには12月2日までの移行期間が設けられているが、新規のAIアプリケーションは来月から即座に要件を満たさなければならない。サフラウイ氏は今回の法整備を歓迎する立場だ。「AIアシスタントは自分の存在意義を自ら証明しなければならない。利用者を騙すような形では信頼は築けない」と語る。

在蘭日本人にとっての意味

電話での手続きや予約が多いオランダの日常生活において、AI受付と接する機会は今後急速に増えていく。医療機関や行政窓口、そして各種サービス業での導入が進む中、「相手がAIかどうか分からない」という不安は今回の規則で一定程度は解消される。ただし、AIとのやりとりに慣れていない人や言語のハードルを抱える人にとっては、「まずAIと話してから人間へ」という流れが新たなハードルになる可能性もある。転送番号の義務化は、そうした利用者を守るためのセーフティネットとして機能するはずだ。今後はルールの実効性をどう担保するか、当局による監視と事業者の対応が問われることになる。