← 뉴스 홈 | 현물 홀

고장 난 킬 스위치와 7월의 Hugging Face 해킹, OpenAI 안전 담당자 퇴사에 그림자를 드리우다

2026-11-04 · 출처:Tom's Hardware

고장 난 킬 스위치와 7월의 Hugging Face 해킹, OpenAI 안전 담당자 퇴사에 그림자를 드리우다

전 OpenAI 안전 직원 David Robinson은 실리콘밸리에 AI를 안전하게 다룰 지혜가 없다고 주장하며, 안전을 진정으로 최우선하는 문화를 세우도록 외부 전문가를 들이자고 촉구한다.

실패한 킬 스위치. 7월의 Hugging Face 해킹. David Robinson이 OpenAI를 떠나면서 뒤따라오는 것은 이 두 사건이고, 이 전 안전 직원은 조용히 떠나지 않는다. 그의 평가에 따르면 이 회사의 안전 문화는 망가져 있다.

그의 비판은 한 직장을 훨씬 넘어 뻗어 나간다.

Robinson의 주장에 따르면 실리콘밸리 전체가 AI를 안전하게 다룰 지혜가 부족하다. 이는 위험 평가를 상당 부분 자기 자신에게 맡겨둔 업계를 향한 뼈 있는 지적이며, 프런티어 시스템을 만드는 랩이 자동으로 그 시스템의 안전성을 판단하기에 가장 적임이라는 안락한 가정을 거부한다. 처방은 진단에서 자연스럽게 이어진다. 내부 절차가 저절로 성숙해지기를 기다리는 대신, 안전을 진정으로 최우선하는 문화를 세우는 데 도움을 줄 수 있는 외부 전문가를 찾자는 것이다.

그의 퇴사에 붙은 두 사건은 이 주장에 구체적인 날을 세워준다. 킬 스위치는 무언가 잘못됐을 때 시스템을 멈추게 하려고 존재하는 장치다. 그래서 그것의 실패는 안전 엔지니어링이 속도를 따라잡고 있는지의 핵심을 찌른다. 머신러닝 커뮤니티 상당수가 모델과 데이터셋을 공유하는 플랫폼인 Hugging Face의 7월 해킹은 별도의 메시지다. AI 생태계에 가해지는 보안 압력이 랩의 경계를 존중하지 않는다는 것.

AI 컴퓨트를 사들이고 프런티어 모델 위에 무언가를 지으려는 기업에게 실용적 교훈은 불편하다. 벤더의 안전 보장은 그것을 만들어내는 내부 문화만큼만 강하다. 그런데 Robinson의 증언은 그 문화가 실패했다고 그가 보는 저명한 랩 하나를 묘사한다.

그의 퇴사는 업계에 직접적인 질문을 남긴다. AI 안전에 가장 가까운 사람들이 문화가 망가졌다고 결론 내렸다면, 그것을 고치라고 믿을 사람은 정확히 누구인가. 그리고 랩들이 외부의 도움을 받아들이긴 할 것인가?

태그: OpenAI · David Robinson · AI Safety · Hugging Face · Kill Switch


관련 기사


萬安算交所 AIXX · AIXX · 검증된 컴퓨트 거래소 · 현물 홀 입장