서로 못 잡아먹어 안달이던 AI 거물들, 이번엔 ‘우리 기술로 생물무기 만들기 어렵게 해달라’고 함께 울었다

AI 업계 지도자들이 미 의회에 공개서한을 보내, 자기들 기술이 생물무기 개발에 쓰일 수 있다며 더 강한 보호장치를 요구했다. 평소엔 서로를 시장에서 지우고 싶어 하던 경쟁사들이 이번에는 같은 문장에 이름을 올렸고, 조롱의 대상은 분명하다. 남의 기술이 아니라 자기들 기술이 위험하니 의회가 좀 막아달라는, 업계식 양심선언이다.

서한은 '전 세계적 팬데믹을 촉발할 수 있는 생물보안 공백'을 말한다. 기술 기업이 자기 제품의 잠재력을 설명할 때 보통 생산성이나 혁신을 꺼내는데, 여기서는 팬데믹이 먼저 나왔다. 제품 설명서에서 가장 무서운 문장을 맨 앞장에 적어놓고도 침착함을 유지하는 태도는 높이 살 만하다. 숫자가 빠진 덕분에 경고는 누구에게도 반박당하지 않는 깨끗한 상태를 유지했다.

서명자 명단은 더 훌륭하다. 메타의 AI 책임자 알렉산드르 왕과 구글 딥마인드의 데미스 허사비스가 이름을 올렸고, 허사비스는 2024년 노벨 화학상 수상자다. 단백질 예측으로 상을 받은 인물이 단백질과 관련된 공포의 무게를 더하는 장면은, 소화기를 팔던 사람들이 건물 설계도 옆에서 불씨가 너무 많다고 탄원서를 내는 그림만큼이나 정직하다.

여기에 과학자, 국가안보·정책 전문가들뿐 아니라 트위스트 바이오사이언스와 안사 바이오테크놀로지스 같은 합성 유전물질 판매 기업 임원들도 서명했다. 위험을 경고하는 쪽과 재료를 파는 쪽이 한 장의 종이에서 만난 셈인데, 공급망과 양심선언을 동시에 정렬해놓는 솜씨가 참 개판이다. 브레이크를 키운 뒤 자동차가 너무 빨라졌다며 교통법규 강화를 먼저 요구하는 제조사들처럼, 다들 상황 파악만큼은 늦지 않았다.

물론 이것을 책임감이라고 불러줄 수도 있다. 적어도 업계가 '아무 문제 없다'고 등신같이 행동하는 단계는 지났고, 이제는 의회가 서둘러 자기들보다 먼저 겁을 먹어주길 바라고 있다. 규제를 선제적으로 요구하는 모습은 고결해 보이지만, 실은 '우리도 이게 어디까지 갈지 모르겠다'는 문장을 정장 입혀 워싱턴에 보낸 것에 가깝다.

결국 이 공개서한이 가장 선명하게 보여준 것은 AI 업계의 합의가 아니라 AI 업계의 자백이다. 경쟁사들이 원한을 접고 한자리에 모였다는 사실 자체가 이미 충분히 불길한데, 그 이유가 '우리 도구가 생물무기에 가까워질 수 있어서'라면 마지막 변명도 없다. 그렇게 위험을 잘 아는 사람들이 계속 더 강한 모델을 내놓을 예정이라면, 문제는 상상 속이 아니라 일정표 안에 있다.