【ITニュース解説】Viral app Neon vows to return to sell more of your phone calls to AI companies

Neonは、ユーザーの電話通話録音を買い取り、人工知能（AI）企業の訓練データとして提供するサービスだ。ユーザーはアプリを通じて電話をかけることで、通話時間に応じて報酬を得ることができた。具体的には、Neonユーザー同士の通話では1分あたり30セント、それ以外の相手との通話では1分あたり15セントが支払われ、1日最大30ドルまで稼ぐことが可能だった。さらに、新しいユーザーを紹介すると30ドルの紹介料も得られる仕組みで、この報酬制度が多くの人々の関心を引き、リリース後すぐに爆発的な人気（「Viral」と呼ばれる状態）となった。提供された通話データは、AIが人間のような会話能力を学習するための貴重な情報源となるため、AI企業にとっては非常に価値のあるものだった。

しかし、この急速な成長の影で、Neonは重大な問題に直面し、一時的にサービスを停止せざるを得なくなった。その原因は、セキュリティ上の大きな欠陥だった。報道によると、このアプリはユーザーが他のユーザーの通話録音、その文字起こしデータ、さらには通話に関するメタデータ（通話日時や相手の情報など）にアクセスできる状態になっていたという。これは、本来であれば厳重に保護されるべき個人情報やプライベートな会話の内容が、意図せず他のユーザーに漏洩する可能性があったことを意味する。システムエンジニアを目指す者にとって、このようなデータのアクセス制御の不備は、システムの設計や実装において最も基本的かつ重要なセキュリティ上の欠陥であることを理解すべきだ。顧客の信頼は、データ保護にかかっている。

このセキュリティ問題が発覚した後、Neonは直ちにサービスを停止し、創設者のAlex Kiam氏がユーザーに対して謝罪の電子メールを送った。メールの中でKiam氏は、このインシデントについて深く陳謝し、アプリが「すぐに」再開されることを約束した。サービス停止中、ユーザーは獲得報酬を換金できなかったが、Kiam氏は「獲得報酬は消えていない。再開後にはすべて支払い、感謝のボーナスも提供する」と約束した。これは顧客の信頼回復と継続利用を促す重要な措置だ。同時に、Neonはサービス再開前に「セキュリティ層を追加する」と約束しており、システムエンジニアの視点からは、脆弱性を特定し、修正するためのセキュリティ対策やシステム改善を意味する。データ暗号化の強化、アクセス権限管理の見直し、定期的なセキュリティ監査などが考えられる。

Neonがどのように通話を録音していたかにも注目が集まっている。Neonの主張では、ユーザーがアプリを通じて電話をかける際、原則として発信者であるユーザー側の会話のみを録音するという。ただし、通話相手もNeonユーザーである場合は、両者の会話が録音される仕組みだった。また、同社は、通話録音から名前や電話番号といった個人情報を自動的にフィルタリングする技術を導入していると説明していた。AI訓練データは量が多いほど性能向上に寄与するが、プライバシー侵害のリスクも伴うため、個人情報の匿名化や非識別化は重要なプロセスだ。

しかし、これらの対策や主張にもかかわらず、多くのプライバシー専門家はNeonの使用に対して警告を発していた。その理由の一つに、通話録音に関する「二者同意」の法律の問題がある。国や地域によっては、通話の録音を行う際に、通話に関わる全当事者の同意が必要とされる場合があるからだ。Neonでは相手が非ユーザーの場合、会話が録音されていることを知らない可能性があり、これが法的・倫理的な問題を引き起こす。システム開発では、技術的な実現性だけでなく、適用される法律、社会規範、倫理を深く理解し、考慮に入れる必要がある。特に個人情報を扱うサービスでは、データプライバシー保護に関する法規制（GDPRやCCPAなど）への準拠が不可欠だ。

今回のNeonの事例は、革新的なビジネスモデルが広がる中で、セキュリティやプライバシー保護が追いつかない場合に生じる問題を示している。システムエンジニアを目指す者にとって、これは技術スキルだけでなく、セキュリティ、プライバシー、法律、倫理といった多角的な視点を持つことの重要性を教えてくれる教訓だ。サービス設計、開発、運用では、常にユーザーのデータ保護を最優先に考え、潜在リスクを洗い出し、適切な対策を講じる責任がある。問題発生時には、迅速かつ誠実に対応し、信頼回復に努めることが、サービスの持続的な成長に不可欠だ。Neonが今後、セキュリティを強化し、ユーザーの信頼を取り戻してサービスを再開できるかどうかに注目が集まる。