📰 핵심 요약

뉴욕시장 조란 맘다니(Zohran Mamdani)와 《Broad City》 주연이자 활동가인 일라나 글레이저(Ilana Glazer)가 월요일 밤 맨해튼 Webster Hall에서 AI를 주제로 대담했다. 싱크탱크 AI Now Institute가 주최한 ‘The People’s AI Assembly’ 행사다. 맘다니는 뉴욕 시민들에게 “AI가 필연적으로 일자리를 빼앗고, 아이들의 정신에 영향을 미치고, 존엄성을 침식한다"는 체념을 받아들이지 말라고 호소했다. 기술의 빠른 확산은 피할 수 없는 일이 아니며, 공직자는 AI 기업에 책임을 요구해야 한다고 주장했다. 그는 연방정부가 AI를 사실상 규제하지 않기 때문에 도시가 직접 나설 수밖에 없다고 지적했다.

구체적인 조치로, 맘다니는 지난달 초등학교와 중학교에서의 AI 사용을 금지하도록 지시했다. 학부모이기도 한 글레이저는 AI가 학교에 들어오는 것이 불안하고, 동의 절차도 없었다고 솔직하게 털어놓았다. 여름에는 집주인, 중개인, 부동산 플랫폼이 매물 사진이나 영상이 AI로 제작되었는지 명확히 공개하도록 요구하는 정책도 내놓았다. 소비자가 오해를 부르는 ‘낚시성’ 매물에 속지 않도록 하기 위해서다.

맘다니는 사회가 “기술의 한계를 직시하지 않은 채 무모하게 도입하고 있다"고 비판하며, 올해 2월 미군이 이란의 한 학교를 공습해 150명 넘게 사망한 사건(최소 123명이 어린이)을 사례로 들었다. 펜타곤 내부 조사관들은 블룸버그에 목표 판정이 AI에 지나치게 의존한 것이 원인 중 하나였다고 밝혔다. 그는 업계가 AI를 의문을 제기할 수 없고 개발자만 규제할 수 있는 존재처럼 말하는 것이 2008년 Facebook의 논리와 똑같으며, 실제로는 책임을 회피하고 IPO 기업가치를 지키려는 것이라고 보았다. 또한 연방 차원에서는 입법을 “완전히 포기했고”, AI 논의가 중국과의 군비 경쟁으로 프레임화되면서 인간 중심의 고민이 뒷전으로 밀렸다고 비판했다. Anthropic은 올해 상장할 것으로 예상되며, OpenAI는 2027년 상장을 예고했다.

💬 JudyAI Lab 관점

뉴욕시장 맘다니와 활동가 글레이저는 AI Now Institute가 주최한 행사에서 AI를 주제로 대담하며, 기술의 빠른 확산이 필연은 아니라고 주장했다. 연방 차원의 규제가 사실상 없는 가운데 지방정부가 직접 제한을 두기 시작했다는 점에서 주목할 만한 소식이다.

AI 빌더에게 이 사례는 하나의 흐름을 보여 준다. 규범이 위에서 아래로 내려오는 통합 입법에서, 도시·학교·부동산 시장처럼 구체적인 현장별로 각자 규칙을 정하는 방향으로 옮겨 가고 있다는 것이다. 맘다니는 먼저 초등학교와 중학교에서의 AI 사용을 금지했고, 매물 사진이나 영상이 AI로 제작되었다면 이를 공개하도록 요구했다. 모두 개별 사용 상황을 겨냥한 요구다. 원문은 목표 판정이 AI에 지나치게 의존한 것이 한 공습 사고의 원인 중 하나로 지목되었다고도 언급하는데, 이로 인해 “기술의 한계를 직시하고 있는가"가 대중이 AI 제품을 검증하는 핵심 기준이 되고 있다. 업계가 AI를 의문을 제기할 수 없는 존재처럼 말할수록, 외부는 금지령으로 대응하려는 경향이 강해질 뿐이다. 능력의 한계와 책임 소재를 분명히 밝히는 제품이라면 지역마다 다른 요구에도 더 여유 있게 대응할 수 있다.

자신의 AI 기능에 ‘AI 생성’ 표시를 넣고, 어떤 상황에서는 사용하기에 적합하지 않은지 설명 한 단락을 적어 두기를 권한다.

📅 원문 정보

🔗 함께 읽기