AI끼리 가격·연봉 흥정…앤스로픽, AI에 변호사 '협상법' 학습

[이데일리 방성훈 기자] 앤스로픽이 인공지능(AI) 에이전트끼리 협상하는 시대에 대비해 법률가들에게 ‘협상법’을 배우고 있다. AI 에이전트가 사용자를 대신해 다른 AI와 흥정할 때 지켜야 할 규칙을 마련하기 위해서다.

(사진=AFP)

18일(현지시간) 파이낸셜타임스(FT)에 따르면 앤스로픽은 AI 에이전트가 사용자에게 가장 유리한 거래를 성사시키려면 어떻게 협상해야 하는지를 놓고 로펌들과 논의하고 있다. 사정에 밝은 두 소식통은 변호사들이 협상에서 의뢰인을 대리하면서도 공정한 결과를 존중하는 방식을 배우려는 것이라고 전했다.

AI 에이전트는 사용자의 지시를 받은 뒤 스스로 판단해 작업을 수행하는 AI를 말한다. 개인용 에이전트가 늘면서 AI 업계는 에이전트끼리 소통하며 사람을 대신해 협상하는 미래를 고민하고 있다. 상품 가격을 흥정하거나, 고객 서비스 분쟁을 해결하거나, 더 나은 연봉 제안을 받아내는 일 등이다.

앤스로픽은 에이전트 개발을 미래 전략의 핵심에 두고 기업공개(IPO)를 준비하고 있다. 투자자들은 이번 IPO가 사상 최대 규모가 될 수 있다고 보고 있다. 에이전트가 사람과 기업이 AI를 쓰는 주요 수단으로 자리 잡으면서 ‘교전 수칙’을 정하는 일도 갈수록 중요해지고 있다. 메타의 개인용 에이전트 ‘뮤즈’는 이용자가 크게 늘었고, 오픈AI도 최근 경쟁 제품 ‘닷츠’를 내놨다.

한 소식통은 앤스로픽이 AI 모델끼리 상호작용할 때의 ‘협상 규범’을 연구하고 있다고 전했다. 에이전트 기술이 발전하면 에이전트는 “사용자를 대리”하면서 “목표가 상충하는” 다른 에이전트를 상대하게 된다는 설명이다.

앤스로픽은 협상 과정에서 에이전트가 사람의 의견을 얼마나 구해야 하는지, 상대 AI를 얼마나 의심해야 하는지도 따져보고 있다. 의심하되 “편집증적”이거나 “음모론적”이 돼선 안 된다는 것이다. 사용자가 서명한 문서를 에이전트에 줘 맡은 임무와 지켜야 할 규칙을 증명하게 하는 방안도 검토했다.

앤스로픽은 지난 4월 공개한 연구에서 “우리를 대신해 거래하는 AI 모델을 둘러싼 정책·법적 틀은 아직 존재하지 않는다”며 “그런 세상은 멀지 않았고, 사회는 이런 변화에 빠르게 대응해야 할 것”이라고 밝혔다.

앤스로픽은 올해 자사 AI ‘클로드’ 에이전트가 실제 물건과 돈을 걸고 협상하는 실험 결과도 여러 차례 공개했다. 지난달에는 직원들이 가상 거래소에서 에이전트를 통해 책을 사고파는 실험을 했다. 직원들은 선호 순위를 매긴 책 목록을 에이전트에 줬고, 에이전트들은 다른 직원의 에이전트와 “제안하고, 흥정하고, 거래를 성사시켰다”.

실험 결과 “무자비하게” 협상하라는 지시를 받은 에이전트가 다른 에이전트보다 “근소하게 앞섰다”. 반면 협조적인 에이전트들은 모든 에이전트가 사용자에게 책을 한 권씩 가져갈 수 있도록 덜 원하는 책을 받아들이는 등 “알면서도 희생”했다.

학계도 이 문제에 뛰어들었다. 미셸 바카로 하버드경영대학원 조교수는 고용 계약, 임대차 계약 등 여러 상황에서 AI 에이전트끼리 18만건 넘는 협상을 진행했다. 그 결과 상대 에이전트가 사용자를 제대로 대리하지 못하게 만드는 새로운 전술이 발견됐다. 한 사례에선 에이전트가 AI에 몰래 명령어를 끼워 넣는 ‘프롬프트 주입’ 기법으로 상대에게 사적인 정보를 털어놓도록 유도했다.

더 뛰어난 AI 모델을 쓸 수 있는 쪽이 협상에서 우위를 점할 것이라는 우려도 있다. 바카로 조교수는 “고성능 모델은 그동안 시간이나 여유가 없어 협상 기술을 익히지 못했거나 대리인을 고용할 수 없었던 사람들도 협상력을 갖게 해줄 수 있다”면서도 “가장 강력한 에이전트를 주로 자원이 많은 쪽만 쓸 수 있다면 기존의 우위를 강화하고 협상력 불평등을 키울 수 있다”고 말했다.

앤스로픽은 FT의 논평 요청을 거절했다.