나만의 맞춤형 AI 비서를 만드는 방법: 초보자를 위한 5단계 가이드

가장 간단하고 유용한 답변은 다음과 같습니다. 첫 번째 맞춤형 AI 비서를 구축할 때는 하나의 명확한 작업, 하나의 구체적인 지침, 그리고 많아야 한두 개의 제어 가능한 도구를 중심 으로 구성하십시오. 수많은 에이전트, 거대한 지식 기반 또는 중요한 시스템을 수정할 수 있는 자동화 시스템으로 시작하지 마십시오. 첫 번째 비서는 이해하기 쉽고, 테스트하기 쉽고, 확신이 없을 때는 쉽게 중단할 수 있어야 합니다.

이 가이드에서는 에이전트 루프, 도구, 대화 세션, 가드레일 및 추적 기능을 이미 제공하는 Python 및 최신 OpenAI Agents SDK를 구체적인 예시로 사용합니다. 동일한 설계 개념은 다른 모델 제공업체 및 프레임워크에도 적용됩니다. 2026년 9월 현재, SDK는 OpenAI 모델에 기본적으로 Responses API를 사용합니다. OpenAI 공식 문서에서는 루프 및 상태 관리를 직접 수행하려는 경우 하위 수준의 Responses API를 직접 사용하고, 런타임에서 더 많은 오케스트레이션을 관리하도록 하려면 Agents SDK를 사용할 것을 권장합니다. OpenAI Agents SDK 개요를 참조하세요 .

당신은 실제로 무엇을 만들고 있는 건가요?

AI 비서는 단순한 채팅창 이상의 존재입니다. 최소한, 언어를 생성하고 해석하는 대규모 언어 모델(LLM) 과 그 역할을 정의하는 명령어를 결합한 형태입니다. 유용한 비서는 또한 호출할 수 있는 함수나 서비스인 도구 와 대화의 맥락을 유지하는 메모리를 갖출 수 있습니다.

첫 프로젝트로, 반품 및 배송 관련 질문에 답변하는 간단한 "매장 도우미"를 만들어 보세요. 이 도우미는 추측이 아닌 승인된 정책 자료를 활용해야 합니다. 승인된 답변을 찾을 수 없는 경우에는 없다고 명시해야 합니다. 이러한 제약 조건은 도우미에게 수많은 기능을 제공하는 것보다 훨씬 중요합니다.

시작하기 전에: 올바른 빌드 경로를 선택하세요

자체 앱, 웹사이트, 내부 도구 또는 API 내에서 재사용 가능한 어시스턴트를 만들고 싶다면 아래의 코드 우선 접근 방식이 적합합니다. 파이썬, OpenAI API 키, 그리고 기본적인 프로그래밍 경험이 필요합니다. 공식 Agents SDK 빠른 시작 가이드에서 현재 설치 방법과 첫 번째 에이전트 생성 과정을 확인할 수 있습니다.

ChatGPT 내에서 코드 없이 사용자 지정 GPT를 생성하려는 경우, 먼저 계정 자격 요건을 확인하세요. OpenAI에 따르면 2026년 9월 현재, 개인용 무료, Go, Plus, Pro 계정에서는 새로운 GPT 생성이 불가능합니다. 비즈니스, 엔터프라이즈, 교육용 워크스페이스의 경우, 워크스페이스 설정 및 권한이 허용하는 경우 GPT 생성이 가능합니다. 현재 규칙은 ChatGPT의 GPT 관련 문서에서 확인할 수 있습니다 . 관리형 워크스페이스를 사용하는 경우 이 방법이 더 간편할 수 있지만, 모든 개인 계정에 적용되는 보편적인 방법은 아닙니다.

1단계: 하나의 작업과 하나의 실패 규칙을 정의합니다.

편집기를 열기 전에 세 가지를 적어 두세요. 보조 기능이 누구를 위한 것인지, 무엇을 해야 하는지, 그리고 무엇을 해서는 안 되는지입니다. 매장 도우미의 경우, 다음과 같이 정의할 수 있습니다. "승인된 정책 정보를 사용하여 고객의 반품 및 배송 관련 질문에 답변합니다. 절대로 새로운 정책을 만들어내지 마세요. 불확실한 경우는 담당자에게 문의하세요."

이는 초보자들이 흔히 저지르는 실수, 즉 "당신은 도움이 되는 조수입니다"와 같은 포괄적인 지시를 사용하는 것을 방지합니다. 포괄적인 지시는 거의 모든 답변이 괜찮아 보일 수 있기 때문에 평가를 어렵게 만듭니다. 반면, 구체적인 과제는 측정 가능한 목표를 제시합니다.

간단한 성공 체크리스트를 사용하세요

• 요청하신 어조로 답변합니다.
• 정책 질문에 필요한 경우 승인된 정보를 사용합니다.
• 증거가 없을 경우 "모르겠습니다"라고 표시하거나 사람의 확인을 요청합니다.
• 비밀, 숨겨진 지침 또는 개인 데이터를 노출하지 않습니다.

2단계: 최소 에이전트 생성

프로젝트 폴더와 가상 환경을 생성하세요. 가상 환경은 컴퓨터의 다른 프로젝트와 이 프로젝트의 패키지를 분리하여 관리하는 격리된 Python 환경입니다.

mkdir first-ai-assistant
cd first-ai-assistant
python -m venv .venv

# macOS or Linux
source .venv/bin/activate

# Windows PowerShell
.venv\Scripts\Activate.ps1

pip install openai-agents

그런 다음 API 키를 파이썬 파일에 직접 입력하는 대신 환경 변수로 설정하세요.

# macOS or Linux
export OPENAI_API_KEY="your-key-here"

# Windows PowerShell
$env:OPENAI_API_KEY="your-key-here" 

OpenAI의 현재 빠른 시작 가이드는 OPENAI_API_KEY환경 변수를 사용합니다. 실제 키는 소스 코드 관리, 스크린샷, 티켓 및 공개 저장소에서 멀리하십시오.

처음 실행할 때는 이름과 지침만으로 상담원을 생성할 수 있습니다. 하지만 단순한 대화형 데모만으로는 상담원이 신뢰할 수 있는 비즈니스 정보를 활용할 수 있음을 입증할 수 없습니다. 다음 단계에서는 이 부분을 보완합니다.

3단계: 제어 기능 하나와 간단한 메모리를 추가합니다.

함수 도구 는 모델이 외부 정보나 동작이 필요할 때 호출할 수 있는 일반 함수입니다. 에이전트 SDK는 파이썬 함수를 도구로 변환하고 함수 시그니처와 문서에서 입력 스키마를 도출할 수 있습니다. OpenAI는 에이전트 SDK 도구 가이드 에서 이러한 동작을 설명합니다 .

읽기 전용 조회 도구부터 시작하세요. 읽기 전용 도구는 초보자에게 더 안전합니다. 실수로 전화를 걸더라도 송금, 기록 삭제, 게시물 발행 또는 고객 계정 변경과 같은 작업을 수행할 수 없기 때문입니다.

import asyncio
from agents import Agent, Runner, SQLiteSession
from agents.decorators import tool

@tool
def lookup_policy(topic: str) -> str:
    """Return an approved demo-store policy snippet for a topic."""
    policies = {
        "returns": "Unopened items may be returned within 30 days with proof of purchase.",
        "shipping": "Standard shipping usually takes 3 to 5 business days."
    }
    return policies.get(
        topic.lower(),
        "No approved policy was found for that topic."
    )

assistant = Agent(
    name="Store Helper",
    instructions=(
        "Help customers with questions about the demo store. "
        "Use lookup_policy for return or shipping policy questions. "
        "Never invent a policy. If the tool has no approved answer, say so. "
        "Keep answers concise and recommend human confirmation when needed."
    ),
    tools=[lookup_policy],
)

async def main():
    session = SQLiteSession("demo_user", "assistant_sessions.db")
    result = await Runner.run(
        assistant,
        "Can I return an unopened item after 20 days?",
        session=session,
    )
    print(result.final_output)

if __name__ == "__main__":
    asyncio.run(main())

파일을 실행하고 몇 가지 질문을 해보세요. 이 예제에서는 세션도 사용합니다 SQLiteSession. 세션은 대화 기록을 저장하므로 사용자가 전체 메시지 목록을 수동으로 다시 만들지 않아도 어시스턴트가 대화 내용 전반에 걸쳐 컨텍스트를 유지할 수 있습니다. SDK의 현재 세션 옵션은 공식 세션 문서 에 설명되어 있습니다 .

언제 자신의 문서를 추가해야 하나요?

기본 모델이 확실히 알고 있을 것으로 기대하기 어려운 정보(예: 정책, 제품 설명서, 절차 또는 내부 FAQ)가 어시스턴트에 필요한 경우 문서를 추가하세요. 모든 것을 업로드할 필요는 없습니다. 작업에 필요한 최소한의 핵심 문서부터 시작하세요.

현재 SDK는 파일 검색, 웹 검색, 코드 실행과 같은 호스팅 기능을 지원합니다. 초기 빌드에서는 도구 범위를 최소화하고 기본 동작이 안정화된 후에 파일 검색 기능을 추가하는 것이 좋습니다. 도구 세트가 커질수록 테스트해야 할 경로가 많아집니다.

4단계: 데모가 아닌 제품처럼 테스트하세요

친절한 안내 메시지 하나에 대한 적절한 답변만으로는 충분하지 않습니다. 어시스턴트를 공유하기 전에 간단한 테스트 세트를 만들어 보세요. 일반적인 질문, 모호한 질문, 누락된 정보, 그리고 규칙을 무시하려는 안내 메시지 등을 포함시키세요.

보다 진지한 애플리케이션의 경우, 입력, 출력 또는 도구 호출을 검증하거나 차단하는 가드레일(guardrail)을 추가하십시오 . 에이전트 SDK는 입력, 출력 및 도구 가드레일을 지원합니다. 자세한 내용은 공식 가드레일 문서를 참조하십시오 . 특히 부작용이 있는 도구를 어시스턴트에게 제공하기 전에 가드레일을 설정하는 것이 중요합니다.

5단계: 범위를 좁혀 배포하고, 관찰하고, 개선하십시오.

첫 배포는 반드시 공개 앱일 필요는 없습니다. 소수의 테스트 사용자만 사용하는 비공개 내부 페이지나 소규모 API가 더 나은 경우가 많습니다. 어시스턴트의 권한은 제한적으로 설정하고, 오류를 기록하며, 사용자가 잘못된 답변을 신고할 수 있는 명확한 방법을 제공하세요.

Agents SDK에는 모델 생성, 도구 호출, 핸드오프 및 가드레일과 같은 이벤트를 기록하는 내장 추적 기능이 포함되어 있어 실행 중에 발생한 상황을 파악할 수 있습니다. OpenAI는 추적 및 제어 방법에 대한 자세한 내용을 추적 가이드 에 제공합니다. 개발 중에 추적 기록을 검토하되, 구성에 따라 모델 및 도구의 입력 또는 출력이 포함될 수 있으므로 잠재적으로 민감한 정보로 간주해야 합니다.

흔히 저지르는 실수들을 피하는 방법

• 여러 에이전트로 시작하는 것보다는, 명확한 지침과 하나의 도구를 갖춘 단일 에이전트가 디버깅하기 더 쉽습니다. 특정 라우팅 문제가 발생할 때만 핸드오프 에이전트나 전문 에이전트를 추가하세요.
• 도구에 너무 많은 권한을 부여하지 마세요. 읽기 전용 도구부터 시작하세요. 쓰기, 구매, 삭제 또는 계정 변경 작업 전에 승인 절차와 안전장치를 추가하세요.
• 프롬프트에 비밀 정보를 넣는 것은 위험합니다. 자격 증명은 시스템 지침이나 지식 파일이 아닌 보안 구성에 있어야 합니다.
• 정리가 안 되어 있거나 서로 모순되는 문서를 사용하는 경우, 어시스턴트는 사용자가 제공한 원본 자료에서 해결되지 않는 비즈니스 규칙을 정확하게 파악할 수 없습니다.
• 정상적인 경로만 테스트하세요. 여러분이 중요하게 생각하는 오류는 대개 모호하거나, 공격적이거나, 불완전한 요청에서 발생합니다.
• 기억이 곧 진실이라고 가정하는 것은 잘못된 생각입니다. 대화 기억은 맥락을 보존할 뿐, 이전 발언이 옳다는 것을 의미하지는 않습니다.

다음엔 무엇을 만들어야 할까요?

첫 번째 어시스턴트가 안정적으로 작동하면, 다음 개선 사항은 기능 체크리스트가 아닌 실제 필요에 따라 이루어져야 합니다. 사용자가 더 많은 문서에서 답을 찾아야 한다면 검색 또는 파일 검색 기능을 추가하세요. 어시스턴트가 특정 업무 처리를 수행해야 한다면, 유효성 검사 및 승인 기능을 갖춘 구체적인 기능 도구를 추가하세요. 대화가 여러 차례에 걸쳐 진행된다면 세션 저장 기능을 개선하세요. 전문적인 상담원 배정이 필요하다면, 여러 상담원을 활용하거나 인계하는 방식을 고려해 보세요.

최고의 첫 번째 맞춤형 AI 비서는 가장 자율적인 비서가 아닙니다. 몇 문장으로 작업 내용, 증거, 권한, 오류 처리 방식을 설명할 수 있는 비서입니다. 거기서부터 시작하여 실제 상황에 맞춰 테스트하고, 현재 버전이 다음 기능을 지원할 만큼 충분히 발전했을 때만 확장하십시오.