플로리다, 오픈AI와 샘 올트먼 고소… ‘인간 생명’까지 베타 테스트에 포함된 위대한 제품 철학

플로리다주가 오픈AI와 샘 올트먼 최고경영자를 상대로 소송을 제기했다. 아스테크니카 보도에 따르면 이 소송은 여러 건의 ChatGPT 관련 살인 사건 이후 나왔다. 인공지능 산업이 드디어 인간의 질문에 답하는 수준을 넘어, 법원 서류에서도 이름을 불리는 성숙한 플랫폼이 된 셈이다.

플로리다 법무장관은 올트먼에게 인간 생명에 대한 ‘노골적 무시’가 있었다고 주장했다. 이 표현은 기술 기업 보도자료에서 흔히 보던 ‘사용자 중심’이라는 말과 아주 아름답게 충돌한다. 안전은 발표 자료에서 가장 윤리적으로 생긴 장식용 단어가 됐고, 실제 인간은 그 단어 밑에 작은 각주로 들어가는 데 성공했다.

물론 아직 법원의 판단은 나오지 않았다. 따라서 회사 입장에서는 도덕도 책임도 모두 임시 저장 상태로 남겨둘 수 있다. 사람이 죽었다는 주장 앞에서도 회사가 가장 먼저 보호하는 것은 보통 문장이다. 문장이 살아야 투자자 설명회가 살고, 설명회가 살아야 다음 모델명이 또 태어난다.

오픈AI를 너무 성급히 탓할 필요는 없다는 변호도 가능하다. 사람의 목숨을 즉시 고려하지 않은 것은 제품 집중도를 흐리지 않기 위한 탁월한 우선순위 관리였을 수 있다. 생명도 로드맵에 없으면 기능 요청으로 밀릴 수 있다. 불이 난 주방에서 새 메뉴판의 글꼴을 고르는 격이지만, 적어도 글꼴은 일관될 것이다.

이 사건의 가장 우아한 지점은 ‘관련’이라는 말이다. 이 단어는 모든 것을 말하는 듯하면서도 아무것도 확정하지 않는다. 브레이크가 밀린다는 신고에 자동차 회사가 핸들 가죽 촉감을 설명할 수 있는 정도의 여백을 제공한다. 피해가 현실에서 발생해도 회의실에서는 ‘사용자 경험’으로 접히는 기술이 있다.

샘 올트먼이라는 이름이 소송장에 들어간 것도 상징적이다. 그동안 AI 업계는 인류, 미래, 정렬, 안전 같은 단어를 대형 풍선처럼 띄워 올렸다. 그런데 플로리다는 그 풍선에 법원 주소를 적어 보냈다. 댐이 무너진 뒤 물의 혁신적 흐름을 발표하는 격의 산업에, 누군가 마침내 양동이가 아니라 소장을 들고 온 것이다.

회사들이 위기 때마다 내놓는 가장 정교한 기술은 모델이 아니라 거리두기다. 책임을 명확히 말하지 않는 태도는 법무팀과 브랜드팀이 동시에 살아남는 고급 협업 방식이다. 인간의 피해는 복잡한 맥락이 되고, 기업의 문장은 신중한 검토가 되며, 그 사이에서 제품은 계속 ‘더 나아지고 있다’고 소개된다. 참으로 부지런한 개선이다. 개선되는 동안 누가 남아 있는지는 별도 문서에 없을 뿐이다.

이번 소송은 오픈AI가 무엇을 했는지, 하지 않았는지, 무엇을 알았는지를 법정에서 다투게 할 것이다. 다만 이미 한 가지는 충분히 선명하다. 인공지능 기업들은 인간을 돕겠다고 말할 때 가장 웅장하고, 인간이 다쳤다는 말을 들을 때 가장 문법적으로 조심스러워진다. 기술의 미래가 이렇게 섬세하다면, 현재의 인간은 잠시 방해가 되지 않게 조용히 있어야 할지도 모른다.

박도윤 기자, The Ploradian