- 소비자용 신경기술 기업들이 축적한 수천만 시간의 뇌파 데이터가 AI 뇌 모델 개발에 쓰이고 있으며, 일부 기업은 이를 개인정보 처리방침에 명시하지 않은 채 학습을 진행함
- Muse 개발사 Interaxon은 사용자 EEG 데이터 약 5만 시간으로 모델을 학습했지만, AI 학습 용도를 명시적으로 알리지 않았고 취재 이후 처리방침을 수정함
- 뇌 파운데이션 모델은 신경 활동의 패턴을 학습해 수면 분석이나 질환 탐지 등에 활용하는 기술이지만, 소비자 기기의 데이터 품질과 범용 모델의 실현 가능성에는 한계와 의문이 있음
- EEG 데이터를 수집하는 57개 기업의 처리방침 조사에서는 수집 사실의 불충분한 고지뿐 아니라 제3자 공유, 인수 시 데이터 이전, 당국 제공을 폭넓게 허용하거나 명확히 규정하지 않는 문제가 드러남
- 전문가들은 AI 학습을 위한 별도의 구체적 동의를 요구하며, 칠레와 일부 미국 주는 신경 데이터 보호를 강화하고 있지만 데이터 거래 등 새로운 사업 방식이 규제보다 빠르게 확산할 수 있다는 우려가 있음
- 영국 레스터에 사는 Adnan Jinnah는 4년 넘게 간헐적으로 잠드는 데 어려움을 겪었으며, Muse 헤드밴드로 수면 상태를 추적함
- 기기는 뇌 활동, 심박수, 뇌의 혈류와 산소를 측정하고 알고리듬으로 수면의 질을 분석함
- 일일 보고서와 장기 데이터를 통해 수면과 기분의 관계, 약물과 스트레스가 수면에 미치는 영향을 이해하는 데 도움을 받음
- 개발사 Interaxon은 수면과 집중 상태의 뇌 작동을 더 잘 파악하기 위한 뇌 파운데이션 모델을 개발 중이며, 학습 데이터 대부분은 사용자에게서 얻음
- 사용자 서비스 개선과 뇌 연구 지원 제품 개발이 목표임
- 이름과 이메일 등 개인 식별 정보를 제거한 EEG 데이터 약 5만 시간으로 학습했으며, 이용 가능한 적격 데이터를 최대한 활용해 규모를 늘릴 계획임
- 기존 개인정보 처리방침에는 AI 뇌 모델 학습 용도가 명시되지 않았고, Science의 지적 이후 이를 수정함
- Jinnah의 데이터도 학습에 쓰였을 가능성이 있지만, 그는 모델의 존재를 몰랐으며 명시적인 설명에 근거한 동의를 하지 않았음
- AI 시스템에 반영된 사용자 데이터를 제거하기는 거의 불가능함
- Jinnah는 자신의 신경 데이터가 사용됐을 가능성을 듣고 체념을 느꼈지만, 사용자 동의를 받아야 한다고 봄
- 1년간의 조사에서 소비자 신경기술 기업들이 이미 수천만 시간의 EEG 데이터를 수집했으며, 여러 기업이 이를 뇌 파운데이션 모델 개발에 사용하고 있음이 드러남
- UNESCO와 OECD는 소비자용 뇌-컴퓨터 인터페이스의 확산에 특별한 우려를 나타냄
- António Guterres 유엔 사무총장은 10월 보고서에서 신경기술의 급속한 발전으로 정부가 개인의 내밀한 생각에 접근할 수 있게 되면 인권이 위협받을 수 있다고 경고함
- 소비자용 기기는 스트레스, 피로, 집중, 수면, 명상 상태 등을 측정한다고 내세움
- 신경기술 시장은 2026년 약 191억 9,000만 달러에서 2034년 거의 330억 달러로 성장할 전망임
- Apple은 2023년 EEG를 수집할 수 있는 이어버드 특허를 출원했고, Meta는 2025년 손목 근육의 미세 전기 신호를 수집하는 Neural Band를 출시함
- 대부분의 웨어러블은 병원용 EEG 헤드셋을 간소화한 형태로, 전극 수와 측정 범위가 제한됨
- 임상용은 두피 전반에 19~25개 전극을 배치하지만 소비자용은 보통 1~6개를 사용하며 이마나 귀 주변 등 일부 영역을 측정함
- 가볍고 단순하며 사용하기 쉬운 설계 때문에 데이터 품질이 희생되는 경우가 많음
- 일부 기기는 엄격한 시험과 수천 건의 연구에 활용됐지만, 대다수는 과학적 근거가 부족함
- 실시간 뇌파 피드백이 집중력과 수면 등을 개선한다는 기업들의 근거를 검토한 2018년 연구에서는 인용 논문 3,000여 편 중 11편만이 엄격한 연구 방법을 사용함
- 그중 10편은 대조 조건보다 실질적인 이점을 발견하지 못함
- EEG는 뇌 활동의 발생 시점을 파악하는 데 강하지만 정확한 위치, 특히 편도체, 해마, 시상 등 깊은 영역의 활동을 파악하는 데 한계가 있음
- 일부 전문가는 소비자 데이터로 잠들기 같은 큰 변화를 감지할 수는 있어도 정신 상태를 많이 알아내기는 어렵다고 봄
- 반면 Pietro Aricò는 생각을 읽지 못하더라도 인지 상태에 관한 유의미한 정보는 얻을 수 있다고 봄
- Neurorights Foundation 공동창립자 Rafael Yuste는 AI 분석이 정교해지면 뇌 표면에서 수집한 데이터만으로도 생각, 감정, 성격 같은 내밀한 특성을 해독할 가능성을 우려함
- 기업들은 뇌 데이터를 알고리듬 학습, 개인화된 분석, 제품 홍보 근거 확보에 활용하며, Interaxon은 이를 회사의 가장 가치 있는 자산으로 봄
- 뇌 파운데이션 모델은 ChatGPT나 Claude 같은 대규모 언어 모델과 유사하지만 텍스트 대신 신경 데이터를 학습함
- 대량의 데이터에서 뇌 활동의 주요 패턴을 익힌 뒤 수면이나 신경 질환 관련 패턴 식별 등 여러 작업에 맞게 조정함
- 추가 학습이 거의 없거나 전혀 없어도 다양한 작업에 사용할 수 있는 유연한 모델이 목표임
- 개발 기업들은 뇌 연구를 돕고 의사의 일부 업무를 자동화해 더 중요한 작업에 집중하게 할 수 있다고 기대함
- Piramidal은 소비자 기기가 아니라 공개 EEG 데이터와 병원 협력으로 모델을 개발함
- 2025년 Cleveland Clinic과 입원 환자의 발작 자동 탐지에 협력함
- 병원의 발작 관련 EEG 데이터로 미세 조정한 모델은 예비 연구에서 발작 10건 중 9건을 정확히 식별함
- 특정 용도의 가능성과 달리 포괄적 뇌 모델의 실현 가능성에는 의문이 남음
- 파킨슨병 환자부터 의사소통을 원하는 마비 환자까지 서로 다른 상태, 질환, 집단에 일반화해야 함
- Jumpspace Ventures의 Adam Caplan 등은 이런 모델이 아직 매우 먼 목표이며, 소비자 기기가 흔히 확보하지 못하는 고품질 데이터가 필요하다고 봄
- 그럼에도 소비자 신경기술 및 AI 소프트웨어 기업 9곳이 뇌 파운데이션 모델 개발을 공개적으로 인정했으며, 비공개로 개발하는 기업이 더 있을 수 있음
- EEG를 수집하는 전 세계 소비자 대상 기업 57곳의 개인정보 처리방침을 검토한 결과, 기본적인 고지부터 공백이 있었음
- 4곳은 처리방침 자체가 없어 개인정보 보호법 위반 가능성이 있었고, 11곳은 웹사이트 방문자 데이터만 다룸
- 더 넓은 범위의 처리방침이 있는 기업 중에서도 뇌 데이터 수집을 명시한 곳은 약 3분의 2에 그침
- 뇌 파운데이션 모델을 개발하는 소비자 신경기술 기업 중 조사 초기 처리방침에 이를 명시한 곳은 없었음
- 일부는 보도자료 등 다른 경로에서 개발 사실을 공개함
- Emotiv은 고급 기기 사용자 데이터 일부와 공개 EEG 데이터셋, 대학 및 다국적 기업과의 신경마케팅 연구 데이터를 large brain model 학습에 사용함
- 취재 이후 비식별 데이터의 모델 학습 활용과 사용자 옵트인 동의 조건을 처리방침에 추가했으며, 이를 앞으로 적용할 약속으로 규정함
- 공개 연구 데이터에도 동의 범위 문제가 있음
- Piramidal은 공개 데이터셋과 병원 및 기관 협력으로 확보한 EEG 400만 시간 이상을 학습에 사용함
- 인터넷 자동 검색으로 공개되고 정리된 비독점 데이터를 찾았으며, 발작 관련 자료 등을 포함한 6만 건의 기록을 가진 Temple University EEG Corpus도 활용함
- 신경윤리 전문가들은 연구 참여자가 연구 목적 사용에는 동의했더라도 정교한 AI 뇌 모델 학습까지 예상하지는 못했을 수 있다고 우려함
- 반면 Piramidal 창립자 Dimitris Fotis Sakellariou는 EEG 제공에 동의한 환자들이야말로 이런 모델의 개발을 기다리는 사람들이라고 반박함
- 처리방침이 있는 기업 중 한 곳을 제외한 모두가 익명화, 집계 또는 비식별 형태의 제3자 공유를 허용함
- 다만 이 범위에 뇌 데이터가 포함되는지는 명시하지 않는 경우가 많음
- 뇌 데이터를 판매하지 않겠다고 명시한 기업은 6곳이며, 별도로 17곳은 일반적인 개인정보를 판매하거나 거래하지 않는다고 명시함
- 조사 대상 전체가 경찰, 정부, 법원 등 당국의 요청에 따른 데이터 제공을 명시적으로 허용하거나 관련 사항을 명시하지 않음
- 3분의 2가 넘는 기업은 기업 간 데이터 이전을 명시적으로 허용하고, 나머지는 이를 명시하지 않음
- 기업이 인수되면 뇌 데이터도 넘어갈 수 있으며, Centre for Future Generations의 Laura Bernáez Timón은 실제로 인수를 목표로 한다는 기업들을 만났음
- 엄격한 윤리와 개인정보 보호 기준을 지키던 소기업의 데이터가, 데이터 자체에 더 큰 관심을 가진 덜 신중한 대기업으로 넘어갈 수 있음
- 뇌 데이터의 특별한 민감성을 강조하는 전문가들은 뇌 활동이 개인의 정체성과 밀접하다는 점을 우려함
- 반면 소비자 기기의 한계를 들어 위험을 덜 심각하게 보는 전문가도 있음
- 소셜미디어 클릭이나 카메라의 시선 추적 정보 등 여러 데이터를 결합하면 뇌를 직접 측정하지 않고도 생각과 감정에 관한 정교한 추론이 가능함
- Duke University의 Nita Farahany는 정신 상태에 대한 추론을 점점 더 정밀하게 만드는 모든 종류의 데이터 이용을 살펴야 한다고 봄
- 전문가와 많은 소비자는 기업이 원하는 모든 용도에 사용자가 동의했다고 가정해서는 안 된다는 데 동의함
- Farahany는 사용자 데이터로 AI를 학습하려면 그 목적에 대한 구체적이고 별도의 동의가 필요하다고 봄
- Neurorights Foundation의 Jared Genser는 각국 정부와 규제기관이 이를 공상과학이 아니라 현실의 과학으로 다뤄야 한다고 촉구함
- 칠레는 2021년 뇌 활동과 그로부터 얻는 정보에 특별한 보호를 요구하며 헌법으로 뇌 데이터를 보호한 첫 국가가 됨
- 이듬해 전 상원의원 Guido Girardi는 충분한 동의 없이 뇌 활동을 수집하고 사용했다며 Emotiv을 제소함
- 2023년 8월 대법원은 Girardi의 손을 들어주고 그의 뇌 데이터 전체 삭제를 명령했으며, 규제기관에 5채널 Insight 기기의 국내 판매와 사용을 검토하도록 지시함
- Colorado와 California 등 미국 일부 주는 소비자 개인정보 보호법에 신경 데이터를 포함함
- 뇌 데이터가 민감한 개인정보로 취급돼 열람이나 삭제 요청 등의 보호를 받을 수 있음
- Chuck Schumer 상원의원이 발의한 법안은 FTC가 신경 데이터 보호의 공백을 조사하고 수집, 공유, 사용, 판매에 관한 규제 체계를 제안하도록 요구함
- 뇌 데이터 판매는 아직 대부분의 기업에 부담스러운 선택으로 보이며, Farahany는 실제로 데이터를 수익화하거나 판매하기로 한 기업을 들은 적은 없다고 밝힘
- 다만 여러 업계 관계자와 연구자에 따르면 데이터 판매는 기업 내부에서 반복적으로 논의되는 주제임
- 신경기술은 전문 기술과 고가 하드웨어가 필요해 연구에서 시장 출시까지 비용이 크고 투자 수익도 보장되지 않음
- 일부 기업은 소비자에게 뇌 데이터 제공 대가를 지급하고, 블록체인 기반 공유 데이터베이스에서 거래하는 방식을 모색함
- Institute of Neuroethics의 Karen Rommelfanger는 블록체인과 암호화폐 업계에서 대규모 데이터 저장소를 만들고 데이터 접근 및 판매를 추진하는 움직임이 늘어날 것으로 봄
- 중국 MATRIX는 비침습형 헤드셋을 활용한 예비 연구를 진행 중이며, 사용자가 수면 데이터를 임대해 수익을 얻는 상업 시장을 다음 목표로 삼음
- 회사는 헤드셋 칩이 초당 1,000회 뇌 신호를 샘플링해 주의, 이완, 수면 변화를 감지한다고 주장함
- 계획 중인 NeuraMATRIX에서는 사용자가 의료 연구자, 제약사, AI 개발자 등 누구에게 데이터 접근을 허용할지 직접 결정하게 됨
- 이런 방식은 허락과 개인정보 보호에 관한 우려를 줄일 수 있지만 사회경제적 불평등을 키울 수도 있음
- University of Mannheim의 Philipp Kellmeyer는 취약계층이 뇌 데이터를 판매할 유인이 더 크며, 생계를 위해 신체 데이터를 수익화해야 한다면 인간의 존엄성도 훼손될 수 있다고 우려함
- MATRIX는 이 우려에 관한 여러 차례의 논평 요청에 응답하지 않음
- 신경기술 산업과 데이터 거래 방식이 빠르게 발전하면서 규제와 윤리 논의가 뒤처질 수 있음
- 중국에서는 이미 트럭 운전사와 건설 노동자로부터 수십만 시간의 EEG 데이터를 수집하며, 일부는 익명화하지 않아 개인정보 보호 우려를 낳고 있음
- 국제 뇌 데이터 거버넌스를 연구하는 Marietjie Botes는 그동안 가정했던 위험들이 이미 현실에서 발생하고 있다고 경고함