NVIDIA 개발자들이 Codex로 실제로 하는 것들: 10배 속도의 비밀

AI 코딩 도구를 쓰면서 이런 경험이 있을 것이다. 처음 몇 번 프롬프트를 주고받을 때는 잘 되는 것 같다가, 작업이 길어지면 모델이 맥락을 잃고 엉뚱한 방향으로 튄다. 결국 중간에 수동으로 개입하고, 다시 설명하고, 다시 고치는 루프에 빠진다. AI 도구를 쓰는데 오히려 더 피곤하다는 역설이다.

나도 그랬다. 그런데 NVIDIA 엔지니어들이 Codex를 쓰는 방식을 보고, 내가 도구를 잘못 쓰고 있었다는 걸 깨달았다.

---

그들이 다르게 쓰는 것: "핸드홀딩"을 줄이는 방식

NVIDIA의 시니어 소프트웨어 엔지니어 Dennis Hannusch는 이렇게 말했다. "GPT-5.5와 함께라면 훨씬 자율적으로 움직이고, 내가 손을 덜 잡아줘도 된다. 여러 번 압축이 일어나는 긴 세션에서도 정확도가 유지된다."

핵심은 "긴 세션"이다. 짧은 질문과 답변을 반복하는 방식이 아니라, 처음부터 충분한 맥락을 주고 AI가 스스로 길게 달리게 한다. 내가 지금까지 쓰던 방식은 AI를 심부름꾼처럼 쓴 것이고, NVIDIA 팀은 AI를 팀원처럼 쓰고 있었다.

그들이 MVP를 실 서비스 수준으로 끌어올리는 데 Codex를 쓴 것, 몇 주가 걸렸을 내부 팟캐스트 녹음 앱을 몇 시간 만에 만든 것도 이 접근법의 연장선이다. 도구 선택, 테스트, 실행까지 Codex가 자율적으로 처리하게 내버려 뒀다.

---

연구 워크플로우를 통째로 넘기는 법

AI 연구자 Shaunak Joshi가 말하는 방식은 더 흥미롭다. 그는 Codex에게 강화학습 관련 논문 코퍼스 전체를 가리키고, "이 분야에서 연구 주제를 찾아라"는 식으로 시작한다. Codex가 논문들을 읽고 가설을 세우면, 그 다음은 실험 스크립트 작성과 원격 서버 실행까지 이어진다.

[실제 활용 방식]
1. 연구 영역 설정: "다음 논문들을 분석해서 미개척 연구 주제 3개를 제안해라"
2. 가설 구체화: "이 가설을 검증할 실험 스크립트를 짜라"
3. 실행 위임: SSH 연결 설정 후 "원격 서버에서 실험을 돌려라"

Joshi가 말하는 10배 속도 향상은 여기서 나온다. 아이디어에서 실험 결과까지 이르는 루프 전체를 AI가 처리한다. 연구자는 결과를 보고 다음 방향을 결정하는 역할만 한다.

---

코드 마이그레이션: Python을 Rust로 바꾸는 단순하고 강력한 용도

NVIDIA 팀이 말하는 또 하나의 실용적인 사례는 코드 번역이다. 성능이 낮은 Python 코드베이스를 GPT-5.5에 넘기면 Rust로 다시 써준다. 그 결과로 20배 효율 향상을 봤다고 한다.

이 방법은 지금 당장 따라 해볼 수 있다. 다음 프롬프트 구조를 그대로 쓰면 된다.

다음 Python 코드를 Rust로 변환해라.
성능 최적화에 집중하되, 동일한 입출력 동작을 보장해야 한다.
변환 후 원래 Python 버전 대비 어떤 부분에서 성능 향상이
기대되는지 설명해라.

[Python 코드 붙여넣기]

이게 잘 되는 이유는 두 가지다. 코드는 모호성이 없는 명확한 스펙이고, Rust와 Python은 GPT-5.5가 학습한 데이터에서 충분히 커버된 언어다. 변환 대상이 명확할수록 결과의 신뢰도가 올라간다.

---

솔직히 말하는 한계와 함정

이 방법들이 항상 잘 되는 건 아니다. 몇 가지 현실적인 주의점이 있다.

"자율적으로 달리게 한다"는 말은 아무것도 안 봐도 된다는 뜻이 아니다. NVIDIA 팀도 중간 결과를 확인하고 방향을 조정한다. AI가 맥락을 잃지 않도록 초기에 충분히 구체적인 제약 조건을 주는 게 핵심이다.

코드 마이그레이션은 단순한 유틸리티 함수에서는 잘 되지만, 복잡한 비즈니스 로직이 얽힌 대형 코드베이스에서는 오류가 섞인 결과가 나올 수 있다. 반드시 단위 테스트로 동작을 검증해야 한다.

SSH를 통한 원격 실행 같은 기능은 Codex의 특정 환경에서만 작동한다. 모든 코딩 AI 도구가 이 수준의 자율성을 지원하는 건 아니므로, 자신이 쓰는 도구의 실제 기능 범위를 먼저 확인해야 한다.

---

오늘 바로 해볼 것

지금 당장 할 수 있는 것 하나만 하자. 최근에 작업했던 Python 스크립트 중 속도가 아쉬웠던 것 하나를 찾아라.

위의 프롬프트 형식을 그대로 써서 GPT-4.1이나 Claude에 붙여넣어 보면 된다. Codex가 없어도 된다. 변환된 Rust 코드를 직접 실행하지 않아도 된다. AI가 어떤 부분에서 병목을 잡아내고 어떤 방식으로 최적화하는지 읽는 것만으로도 충분히 배울 수 있다.

그것부터 시작하면 된다. 10배 속도 향상은 나중 이야기다.

※ 본 글은 정보 제공 목적이며 특정 제품·서비스의 추천이 아닙니다.