AI 용어 20개 그림 사전 — LLM·RAG·에이전트·환각

2. 토큰

AI가 글을 세는 단위입니다. 한국어는 대략 한 글자가 1~2 토큰입니다. 요금이 토큰 단위로 매겨지고, 한 번에 넣을 수 있는 양도 토큰으로 정해집니다.

3. 컨텍스트 윈도우

AI가 한 번에 볼 수 있는 분량입니다. 이걸 넘으면 앞부분을 잊습니다. 긴 대화에서 "아까 말한 거 기억 안 나?"가 생기는 이유입니다.

4. 프롬프트

AI에게 주는 지시문입니다. 같은 AI라도 프롬프트에 따라 결과가 크게 달라집니다.

5. 환각 (Hallucination)

AI가 없는 사실을 그럴듯하게 지어내는 것입니다. 1번에서 봤듯 AI는 "확률이 높은 말"을 고르기 때문에, 모를 때도 자신 있게 답합니다.

6. RAG (검색증강생성)

AI에게 자료를 먼저 찾아 주고 그걸 보고 답하게 하는 방식입니다. 환각을 줄이는 가장 흔한 방법입니다.

7. 벡터 / 임베딩

글을 숫자 목록으로 바꾼 것입니다. 뜻이 비슷한 글은 숫자도 비슷해져서, "비슷한 문서 찾기"가 계산으로 가능해집니다. RAG의 검색이 이걸로 돌아갑니다.

8. 벡터 데이터베이스

7번의 숫자 목록을 모아 두고 비슷한 것을 빨리 찾아 주는 저장소입니다.

9. 파인튜닝

AI를 우리 데이터로 추가 훈련시키는 것입니다. RAG보다 비싸고 오래 걸립니다. 대부분의 회사는 RAG로 충분하고, 파인튜닝까지 갈 일은 드뭅니다.

10. AI 에이전트

질문에 답만 하는 게 아니라 스스로 도구를 써서 일을 처리하는 AI입니다. 검색하고, 계산하고, 파일을 만들고, 다시 확인합니다.

11. 툴 콜링 (Tool Calling)

에이전트가 외부 기능을 불러 쓰는 것입니다. "환율 계산해 줘"에서 실제 환율 API를 부르는 동작이 툴 콜링입니다.

12. 멀티모달

글뿐 아니라 이미지·음성·영상을 함께 다루는 것입니다. 사진을 올리고 "이거 뭐야?"를 묻는 게 멀티모달입니다.

13. 파라미터 (매개변수)

모델의 크기를 재는 단위입니다. "70B"는 700억 개라는 뜻입니다. 크다고 무조건 좋지는 않습니다 — 느리고 비쌉니다.

14. 추론 (Inference)

훈련이 끝난 AI가 실제로 답을 만들어 내는 동작입니다. 우리가 쓰는 순간이 전부 추론입니다.

15. 온프레미스 / 클라우드

16. API

프로그램끼리 주고받는 약속된 창구입니다. "AI를 우리 시스템에 붙인다"는 대개 API로 연결한다는 뜻입니다.

17. 프롬프트 인젝션

악의적인 문장을 끼워 넣어 AI가 원래 지시를 어기게 만드는 공격입니다. 외부에서 받은 문서를 AI에게 그대로 읽히면 위험할 수 있습니다.

18. 가드레일

AI가 하면 안 되는 일을 막는 안전장치입니다. 욕설 차단, 개인정보 마스킹, 특정 주제 회피 같은 것들입니다.

19. AX (AI 전환)

AI를 한두 명이 도구로 쓰는 단계를 넘어, 업무 방식 자체를 바꾸는 것을 말합니다. DX(디지털 전환)의 AI 버전이라고 보면 됩니다.

20. PoC (개념 검증)

본격적으로 만들기 전에 되는지만 작게 시험해 보는 것입니다. AI 사업에서 "우선 PoC부터"라는 말이 자주 나옵니다.

이 말들이 실제로 쓰이는 자리

제안서나 견적서에서는 대개 이런 식으로 묶여 나옵니다.

"사내 문서 기반 RAG 챗봇을 클라우드 API로 구축하고, PoC 후 확대"

이제 이 문장이 무슨 뜻인지 아실 겁니다. 사내 문서를 검색해서 답하는 챗봇을, 외부 AI 서비스에 연결해서, 우선 작게 만들어 보고 되면 늘리겠다는 뜻입니다.

우리 회사가 위 19번의 몇 단계인지 궁금하다면 AX 진단이 12문항으로 알려드립니다.