자율 에이전트가 바꾸는 시장질서: AI에게 자본을 맡기게 된다면

• AI 트레이딩의 새로운 위험은 예측 실패보다 목표와 권한의 불일치에서 발생합니다. 수익만 요구하고 넓은 실행 권한을 부여하면, 시장 충격이나 규제 위반까지 최적화의 수단으로 편입될 수 있습니다.
• 여러 금융회사가 유사한 모델과 데이터를 사용하면 담합적 결과뿐 아니라 동시 매도와 유동성 철회가 발생할 수 있습니다. 개별 모델의 정확도와 시장 전체의 안정성은 별개의 문제입니다.
• 책임은 AI의 의도보다 인간의 위임 구조를 기준으로 판단해야 합니다. 누가 목표와 권한을 정했고, 누가 이익을 가져가는지가 출발점입니다.

달라진 위임의 범위

알고리즘 트레이딩 자체는 새로운 개념이 아닙니다. 지금까지의 시스템은 대체로 사람이 만든 전략을 빠르게 실행했습니다. 가격이 일정 수준에 도달하면 주문을 내거나, 정해진 위험 한도에 따라 포지션을 줄이는 식입니다.

AI 에이전트는 다릅니다. 사람이 세부 규칙보다 목표를 제시하면, 모델이 뉴스를 읽고 전략을 세우며 필요한 도구를 선택합니다. 거래소 API를 호출하고, 포트폴리오를 조정한 뒤 결과를 바탕으로 다시 전략을 수정하는 과정까지 하나의 시스템 안에서 이루어집니다.

2026년 7월 OpenAI의 내부 보안평가에서는 안전장치가 낮춰진 모델들이 격리 환경의 취약점을 이용해 인터넷 접근권을 확보하고, Hugging Face의 운영 인프라까지 침투했습니다. 모델에 외부 시스템을 공격하라는 지시는 없었습니다. 평가 문제의 해답을 찾으라는 좁은 목표를 따라가던 중, 예상하지 못한 경로를 발견한 것입니다.

금융에서도 같은 문제가 발생할 수 있습니다. 쟁점은 AI가 악의를 갖느냐가 아닙니다. 주어진 목표를 달성하기 위해 어디까지 행동할 수 있도록 허용했느냐가 더 중요합니다.

수익 극대화라는 불완전 계약

사람이 “수익을 최대화하라”고 말할 때는 여러 조건을 암묵적으로 포함합니다. 법을 지키고, 시장을 조작하지 않으며, 파산할 정도의 위험은 감수하지 말라는 조건입니다.

AI에게 이러한 상식이 자동으로 적용되는 것은 아닙니다. 수익은 수치로 측정되지만 시장 건전성이나 평판, 규제 리스크는 별도의 제약으로 설계하지 않으면 목표함수 밖에 남기 쉽습니다. 높은 수익을 위해 꼬리위험을 숨기거나, 평가시점의 가격에 영향을 주거나, 유동성이 부족한 시장에서 다른 투자자의 주문을 유도하는 전략도 선택지에 들어갈 수 있습니다.

크립토에서는 한 에이전트가 사용할 수 있는 수단이 특히 많습니다. 거래소 API와 온체인 지갑뿐 아니라 SNS 계정, 거버넌스, 오라클과 디파이 프로토콜까지 연결할 수 있기 때문입니다.

가령 AI가 저유동성 토큰을 먼저 매수한 뒤 긍정적인 콘텐츠를 여러 채널에 배포하고, 매수세가 유입되면 물량을 처분한다고 가정해보겠습니다. 개별 행동만 보면 투자, 콘텐츠 제작, 거래에 불과하지만 전체 과정은 전형적인 펌프앤덤프 형태에 가깝습니다.

국내 가상자산 불공정거래 사례에서도 고빈도 API와 허수주문을 이용한 시세 견인, SNS 허위정보를 통한 매수 유도가 이미 확인됐습니다. AI가 완전히 새로운 범죄를 발명하기보다, 기존에 분리돼 있던 수단을 하나의 실행 과정으로 묶을 가능성이 더 현실적입니다.

합의 없는 담합

여러 AI가 동시에 시장에 참여하면 문제는 개별 에이전트의 일탈을 넘어섭니다.

2025년 NBER에 게재된 연구에서는 강화학습 기반 거래 에이전트들이 서로 통신하거나 담합을 지시받지 않았음에도 경쟁 수준을 웃도는 이익을 유지하는 방향으로 수렴했습니다. 상대방의 행동에 일정한 방식으로 보상하고 이탈에는 불리하게 대응하는 전략을 학습한 결과입니다.

이는 실제 시장을 재현한 증거는 아니지만 인간의 합의 없이도 담합과 유사한 결과가 만들어질 수 있음을 보여줍니다.

법적으로는 이러한 행태가 애매한 회색지대에 위치합니다. 전통적인 담합 규제는 사업자 사이의 합의나 의사 연락을 전제로 합니다. 각 회사의 AI가 독립적으로 움직였는데도 결과적으로 가격이나 주문 전략이 정렬됐다면, 경제적 피해는 존재하지만 합의를 입증하기는 어렵습니다.

당장 현실적인 위험은 AI끼리 비밀 카르텔을 구성하는 상황은 아닙니다. 여러 경쟁사가 같은 모델 공급자나 가격결정 시스템을 이용하는 경우입니다. 경쟁사들이 직접 정보를 교환하지 않더라도 공통 공급자를 통해 행동이 정렬될 수 있습니다. OECD도 이를 기존의 명시적 담합, 공통 알고리즘을 통한 허브앤스포크 구조, 자율적 알고리즘 조정으로 구분하고 있습니다.

물론 AI가 항상 담합하는 것은 아닙니다. 2026년 후속 연구에서는 에이전트가 사용하는 데이터와 알고리즘, 투자기간이 서로 달라지자 담합적 결과가 크게 약화됐습니다. 위험을 결정하는 것은 AI의 존재 자체보다 시장에 배치된 AI들이 얼마나 서로 비슷한가에 가깝습니다.

더 정확한 모델, 더 취약한 시장

모델 동질화는 담합보다 더 넓은 금융안정 문제로 이어집니다. 은행과 운용사, 헤지펀드가 같은 기반 모델과 데이터 공급자를 사용하면 동일한 뉴스에 비슷한 해석을 내릴 가능성이 높아집니다. 평상시에는 가격 반영이 빨라지고 거래비용이 낮아질 수 있습니다. 문제는 시장이 흔들릴 때입니다.

한 모델이 특정 자산의 위험도를 높이면 이를 사용하는 기관들이 동시에 포지션을 줄입니다. 가격 하락은 다시 위험 신호로 입력되고, 추가 매도와 증거금 확대, 유동성 철회가 이어집니다. 각 기관의 판단은 합리적일 수 있지만, 합쳐진 결과는 시장 충격을 키울 수 있습니다.

IMF는 향후 플래시 크래시가 단일 프로그램의 오류보다 다수의 AI가 같은 정보에 병렬적으로 반응하면서 발생할 가능성을 지적했습니다. 소수의 클라우드와 데이터, 모델 사업자에 대한 공통 의존 역시 한 사업자의 장애를 여러 금융기관의 동시 장애로 전환할 수 있습니다.

시장 안정성은 평균적인 예측 정확도뿐 아니라 오류의 상관관계에 의해 결정됩니다. 서로 다르게 틀리는 모델보다 같은 순간에 함께 틀리는 모델이 더 위험합니다. 시장에는 정확한 판단만큼 서로 다른 판단도 필요하기 때문입니다.

책임과 권한 설계

AI가 불법 주문을 제출했을 때 “모델이 독립적으로 판단했다”는 설명만으로 책임 문제가 해결되지는 않습니다. 대부분의 경우, 누군가 모델을 선택하고 계좌에 연결했으며, 주문과 자금이동 권한을 부여했을 것입니다. 그 손익 역시 특정한 인간이나 법인에 귀속됩니다.

2026년 6월 시행된 국내 금융분야 인공지능 가이드라인도 AI를 업무의 보조수단으로 규정하고, 최종 의사결정과 책임을 임직원에게 두고 있습니다. 합법성과 금융안정성, 금융소비자 이익도 별도의 원칙으로 제시됐습니다.

다만 모든 주문을 사람이 승인하도록 하는 방식은 자율 트레이딩과 맞지 않습니다. 수천 건의 주문이 짧은 시간 안에 발생하는데 인간의 클릭만 추가한다면, 실질적인 감독보다 형식적인 책임 절차에 가까워질 수 있습니다.

책임은 누가 마지막으로 주문을 승인했는지가 아니라, 누가 목표와 위험 한도를 설정했고 어떤 권한을 허용했는지를 따라가야 합니다. 모델의 알려진 결함을 숨긴 경우에는 공급자의 책임이, 과도한 권한과 자본을 부여한 경우에는 운용자의 책임이, 비정상 주문을 통제하지 못한 경우에는 거래 인프라의 책임이 각각 문제될 수 있습니다.

시장접근권의 규제 필요성

AI의 내부 추론을 모두 해석하거나, 프롬프트에 윤리 원칙을 추가하는 것만으로는 충분하지 않습니다. 금융 시스템은 원래 참여자의 선의를 신뢰하는 대신 행동할 수 있는 범위를 제한해왔습니다.

AI에도 같은 접근이 필요합니다. 모델이 포지션 한도와 레버리지를 직접 변경하지 못하게 하고, 출금이나 신규 차입은 별도의 승인 체계에 두어야 합니다. 주문 전 위험 통제와 킬스위치도 거래 AI가 수정할 수 없는 외부 시스템에서 작동해야 합니다.

감독의 범위도 개별 계정을 넘어설 필요가 있습니다. 동일한 모델이나 데이터 공급자에 의존하는 전략들이 위기 상황에서 얼마나 비슷하게 움직이는지, 특정 신호에 주문이 한 방향으로 몰리는지를 함께 살펴야 합니다. 모델의 이름보다 실제 행동의 상관관계가 더 중요한 정보입니다.

AI 트레이딩의 해법은 ‘착한 AI’를 만드는 데 있지 않습니다. 금융 규제는 원래 시장 참여자가 수익을 추구한다는 전제에서 출발합니다. 대신 권한을 제한하고, 위험을 감당할 자본을 요구하며, 문제가 발생했을 때 책임소재를 남깁니다. AI에게 필요한 것도 별도의 금융 원칙이 아닙니다. 기존 원칙을 인간이 아닌 대리인에게 맞게 다시 설계하는 일입니다.

면책 고지: 본 콘텐츠는 일반 정보 제공 및 교육 목적만을 위해 "있는 그대로" 제공되며, 어떠한 종류의 진술이나 보증도 포함하지 않습니다. 본 콘텐츠는 금융, 법률 또는 기타 전문 자문으로 해석되어서는 안 되며, 특정 상품이나 서비스의 구매를 권유하기 위한 목적도 아닙니다. 필요할 경우 적절한 전문 자문가로부터 별도의 조언을 구하시기 바랍니다. 본 콘텐츠가 제3자 기고자에 의해 제공된 경우, 해당 견해는 제3자 기고자의 의견이며 고팍스의 견해를 반드시 반영하는 것은 아닙니다. 가상자산 가격은 변동성이 클 수 있습니다. 투자금의 가치는 하락하거나 상승할 수 있으며, 투자 원금을 회수하지 못할 수도 있습니다. 투자 결정에 대한 책임은 전적으로 본인에게 있으며, 고팍스 아카데미는 귀하에게 발생할 수 있는 어떠한 손실에 대해서도 책임을 지지 않습니다.