팔란티어 CEO "진짜 AI 위험은 불량 에이전트 아닌 개발사 욕망"

(샌프란시스코=연합뉴스) 권영전 특파원 = 알렉스 카프 팔란티어 최고경영자(CEO)가 인공지능(AI) 멸망론과 관련해 진짜 위험은 AI 자체가 아니라 AI 개발사에 있다고 독설을 내뱉었다.

카프 CEO는 팔란티어의 3분기 실적과 함께 2일(현지시간) 발표한 주주서한을 통해 "정렬(Alignment) 문제는 물론 실제로 존재하지만, 일반에 알려진 것과는 다르다"며 이같이 말했다.

정렬은 AI의 목표를 인간의 목표와 일치시키는 것을 뜻하는 말로, 정렬에 실패하면 AI가 인간의 의도를 무시하고 자체적인 목표를 추구하게 될 수 있다.

그러나 카프 CEO는 "진짜 문제는 기술적 창작물의 목표와 역량을 우리의 이익과 일치시키는 것이 아니다"라며 "오히려 그 기술을 구축하는 기업(AI 개발사)의 목표와 이를 활용하는 고객의 이익, 그리고 인류 공공의 이익을 일치시키는 것"이라고 지적했다.

이는 AI 에이전트가 인류를 적대시할 가능성을 우려하기보다는, 앤트로픽과 오픈AI 등 대형 AI 개발사들이 이기적인 목표를 추구해 인류 전체의 이익에 어긋날 가능성을 더욱 우려해야 한다는 뜻으로 풀이된다.

실제로 카프 CEO는 AI 개발사들이 기업 고객의 핵심 데이터와 '알파'(기술적 우위를 뜻하는 말)를 자사 AI로 흡수하려 하고 있다고 여러 차례 비판한 바 있다.

그러면서 "우리는 파트너의 가치와 알파를 착취하는 소프트웨어에 전혀 관심이 없다"고 강조했다.

카프 CEO는 또 자신들의 AI 데이터 분석 기술을 활용하지 않는 모든 산업이 도태될 것이라는 섬뜩한 '예언'도 내놨다.

그는 성서에 나오는 예수의 어투를 빌려 "들을 귀 있는 자는 들을지어다"라고 운을 떼고는 한때는 주요 플레이어였으나 자신들의 가르침을 듣지 않는 이들은 황량한 황무지의 '외로운 중간 지대'에 남고, 성장할 기회를 놓친 이들은 '붐비는 바닥'에 머무를 것이라고 주장했다.

또한 팔란티어가 군사 분야에 서비스를 제공하는 데 대해 비판의 목소리가 나오는 것을 염두에 둔 듯 "우리는 우리 자신을 진실하고 실현할 수 있는 반전(反戰) 운동의 선구자로 여긴다"는 주장도 내놨다.

국가 방위를 위해 싸우는 병사들이 무사히 집으로 돌아올 수 있도록 하는 데 자신들이 이바지한다는 것이다.

팔란티어는 이날 3분기 실적 공시를 통해 자사 매출이 지난해 같은 기간보다 96% 급증한 23억1천300만 달러(약 3조1천억원)를 기록했다고 밝혔다.