📰 핵심 요약

Instinct는 현재 비공개 테스트 단계에 있는 AI 개인 비서로, 전 Sierra 리서치 사이언티스트 Noah Shinn이 이끄는 소규모 팀이 만들었다. 회사명은 Spear Street Technology이며 본사는 샌프란시스코에 있고, 현재 스텔스 모드로 운영 중이다. 이 어시스턴트는 사용자의 이메일, 메신저, 캘린더는 물론 기기의 오디오, 위치, 화면 등 권한을 연동해 작동하며, 사용자는 문자 메시지나 WhatsApp으로 직접 지시를 내려 예약 대행, 공항 픽업 일정 조율, 받은편지함 정리, 쇼핑 처리, 저렴한 항공권 검색 등의 작업을 맡길 수 있다. 여러 테스터는 그 능력을 “마법 같다"고 묘사하며 OpenClaw 이후 가장 흥미로운 제품 중 하나라고 평했지만, 동시에 프라이버시와 보안 메커니즘에 대한 의문도 제기했다.

논란의 핵심은 서비스 약관에 있다. 약관은 Instinct에게 사용자 데이터에 대한 “영구적이고 철회 불가능한” 사용권을 부여하며, 사용자 자료에 접근·사용·호스팅·캐싱·저장·복제·전송·공개·배포·수정할 수 있고, 심지어 자사 AI 모델 학습에도 사용할 수 있도록 명시하고 있다. 또한 약관에는 Instinct가 스크린샷, 커서 이동, 키보드 입력 등 기기 정보를 수신할 수 있으며, 사용자를 대신해 구속력 있는 계약이나 거래를 체결할 수 있다는 내용도 포함되어 있다. 실제 사례로는: 초기 사용자 Peter Yang이 Gmail 기록 삭제를 요청했으나 이루어지지 않았고(이후 팀이 삭제 도구를 추가해서야 수정됨), 다른 사용자 Claire Vo는 연결을 끊었는데도 Instinct가 여전히 자신의 받은편지함을 요약하고 있다는 사실을 발견했으며, 추궁 끝에 이메일 내용이 추후 검색을 위해 평문(plain text)으로 저장되고 있음이 확인됐다. 또 다른 테스터는 Instinct가 예약 등의 작업을 완료하기 위해 메일함에서 인증 코드를 자동으로 추출해간다는 사실을 발견했고, Hello Patient 공동창업자 Alex Cohen은 계정이 피싱 공격에 극도로 취약하다는 것을 발견하고 계정을 삭제했다.

💬 JudyAI Lab 코멘터리

Instinct의 비공개 테스트 논란은 AI를 관찰하는 이들이 눈여겨볼 만하다. 전 Sierra 과학자가 만들고 “마법 같다"고 평가받는 개인 비서가, 메일함·메신저·캘린더·화면·위치에 대한 거의 전면적인 권한 접근을 대가로 편의성을 구축한 사례이기 때문이다.

이는 AI 어시스턴트 산업이 어느 순간 맞닥뜨리게 되는 어색한 지점을 보여준다: 능력이 강해질수록 필요한 권한도 깊어지지만, 서비스 약관은 종종 사용자의 프라이버시 기대치를 따라가지 못한다는 것이다. Instinct의 약관은 영구적이고 철회 불가능한 데이터 사용권을 부여하며 심지어 모델 학습에도 쓰일 수 있는데, 실제 사례들은 그 간극을 더욱 부각시킨다 — 사용자가 이메일 기록 삭제를 요청해도 처리되지 않고, 연결을 끊은 후에도 받은편지함을 계속 읽어들이며, 이메일 내용은 평문으로 저장되고, 예약 완료를 위해 인증 코드를 자동으로 추출하기까지 한다. 이는 추상적인 프라이버시 우려가 아니라, 제품 설계 과정에서 “권한 경계"와 “사용자 통제권"이 희생된 구체적인 증거다. AI 빌더에게 이는 하나의 경고다: 기능 출시 전, 데이터 보존·삭제 메커니즘·평문 저장 같은 기본적인 설계가 종종 모델 능력 자체보다 먼저 제품의 신뢰도를 결정짓는다는 사실이다.

다음번에 어떤 AI 어시스턴트 제품을 평가하기 전, 서비스 약관 중 데이터 보존과 삭제에 관한 조항을 먼저 읽어보는 것도 좋겠다.

📅 원문 정보

🔗 더 읽어보기