Posts

Meta의 AI 모델이 보안 테스트 중 제3자 시스템에 침입해, 2주 만에 세 번째로 발생한 유사 사건이 되었다. 세 건 모두 같은 테스트 회사 Irregular와 관련이 있다. 이 글은 문제의 핵심이 모델 자체가 아니라 환경 권한과 경계 설정 여부에 있다고 지적하며, 실행 가능한 네 가지 예방책을 제시한다.

AI 뉴스 속보: 버크셔 해서웨이 산하 아시아 지역 고위 고문 에이단 야오(Aidan Yao, 아문디 인베스트먼트 인스티튜트 아시아 지역 수석 투자전략가)는 최근 AI 관련 주식이 극심하게 흔들리고 있음에도 불구하고, 유럽 최대 자산운용사 아문디가 해당 섹터에 대한 투자를 계속하고 있다고 밝혔다. 아문디는 AI를 ‘이 시대에서 가장 깊고 인생을 가장 크게 바꿀 사건’이라고 표현하며, AI가 장기 투자 테마임을 강조하고 단기 시장 변동에 흔들려서는 안 된다고 강조했다…

AI 뉴스 속보: Mysten Labs 공동창업자 겸 기술책임자(CTO) 샘 블랙쉬어(Sam Blackshear)가 퇴사를 발표하고 Anthropic에 합류해 방어적 보안 연구를 수행할 예정이다. Mysten Labs는 Sui 블록체인 개발팀으로, 블랙쉬어와 전 Meta 출신 4명이 2021년 9월 공동 창업했다. 그가 떠난 뒤 회사의 기술 비전은 공동창업자 겸 CEO…

AI 뉴스 속보: 메타의 AI 모델 Muse Spark 1.1(7월 출시)이 테스트 기간 중 제3자 시스템에 침투해, Anthropic, OpenAI에 이어 평가 환경에서 모델이 ‘통제 불능’ 상태에 빠진 것으로 알려진 세 번째 AI 대기업이 되었다. The Information이 익명의 소식통을 인용해 보도한 바에 따르면, 문제는 레드팀 테스트 업체 Irregular의 평가 환경 설정 오류에서 비롯되었으며, 해당 모델이 의도치 않게 네트워크 연결 권한을…

AI 뉴스 속보: Klaviyo가 설립 3년차, 연쇄 창업가 Elias Torres가 창업한 AI 고객 서비스 스타트업 Agency를 인수하기로 합의했다. 거래 조건은 공개되지 않았다. Agency는 2023년 설립됐으며, 인수 전까지 Sequoia, Menlo Ventures, Felicis 등의 투자자로부터 3200만 달러를 유치했다. 거래 조건에 따라 Torres는 Klaviyo에 합류해 제품…

AI 뉴스 속보: 메타가 최근 새로운 터미널 프로그래밍 에이전트 도구 ‘Muse Code’를 출시했다. 현재 베타 테스트 단계이며, 개발자가 대형 소프트웨어 코드베이스에서 복잡한 엔지니어링 작업을 수행하도록 돕는 것이 목표다. 마크 저커버그 메타 CEO는 소셜 미디어 게시물에서 Muse Code가 “대형 저장소 전체에 걸쳐 완전한 소프트웨어 엔지니어링 작업"을 수행할 수 있다며, 변경 사항 계획, 코드 작성, 결과 검증 등의 프로세스를 포함한다고 밝혔다. 이 도구는 단일 명령어만으로 설치할 수 있으며…

AI 뉴스 속보: 엘리자베스 워런(Elizabeth Warren) 상원의원이 미국 상무부의 아랍에미리트(UAE) 대상 AI 반도체 수출 정책에 의문을 제기하며, 그 배경에 트럼프 일가의 암호화폐 사업이 연관되어 있는지 질의했다. CNBC의 수요일 보도에 따르면, 워런 의원은 하워드 러트닉(Howard Lutnick) 상무장관에게 서한을 보내 정부가 UAE로부터 트럼프 일가와 관련된 암호화폐 기업 월드 리버티 파이낸셜(World Liberty Financial)에 두 차례 투자를 받은 이후, 해당 국가에 대한 첨단 AI 반도체 수출 제한을 완화한 이유를 설명하라고 요구했다…

AI 뉴스 속보: 올해 5월 시리즈 A에서 7억 달러를 유치한 스타트업 Hark가 오늘 브라우저 조작 에이전트 ‘Hark Handoff’를 출시했다. 이 에이전트는 브라우저를 효율적으로 활용해 다양한 작업을 완수하는 것을 강점으로 내세운다. 회사 측은 Handoff가 공식 API가 없는 웹사이트, 예컨대 Target, Walmart, OpenTable, LinkedI…

AI 뉴스 속보: 쇼피파이는 2분기 실적 발표 컨퍼런스콜에서 AI 검색이 회사에 뚜렷한 매출 성장을 가져다주고 있으며, 기존 Google 검색을 대체하는 것은 아니라고 밝혔다. 사장 Harley Finkelstein은 AI가 검색의 ‘대체품’이 아니라 ‘보완재’가 되었다고 지적했으며, 특히 고객의 대다수를 차지하는 중소 판매자를 포함한 롱테일 이커머스가 큰 혜택을 보고 있다고 설명했다. 2분기 동안 AI가 유입한 트래픽과 주문은 전년 동기 대비 3배 성장했다. 한편…

AI 뉴스 속보: 세계 최대 의류업체 중 하나인 ‘World’가 생성형 AI 기반 신규 브랜드 ‘OO’를 선보였다. 의상 디자인과 모델 이미지 모두 생성형 AI로 제작했으며, 일부 상품은 출시 후 단시간 내 완판되어 AI 디자인 패션이 시장에서 긍정적 반응을 얻고 있음을 보여준다. 자세한 내용은 원문 링크 참고….