AI 기초

AI 용어, 사장님이 알아두면 좋은 네 가지 정리

LLM·토큰·환각·RAG를 가게 안내문과 상담 사례로 풀고, AI 답변을 확인하는 기준을 정리합니다.

안녕하세요, 키리웹입니다 🙂

AI로 가게 소개문을 써 보려는데 LLM, 토큰, RAG 같은 낯선 말부터 나옵니다. 기능 설명을 읽어도 무엇을 맡기고 무엇을 확인해야 할지 막막할 수 있습니다.

오늘은 자주 만나는 AI 용어 네 가지에 대해 가게 운영에 빗대어 뜻을 풀고, 답변을 사용할 때 확인할 점을 정리해 보겠습니다.

LLM은 글을 다루는 모델입니다

LLM은 대규모 언어 모델의 줄임말입니다. 많은 언어 자료에서 배운 패턴을 바탕으로 질문에 답하거나 문장을 만드는 데 쓰입니다.

가게에서 생각하면 빈 종이에 소개문 초안을 함께 적는 도우미에 가깝습니다. ‘처음 오는 손님에게 주차 방법을 설명해 주세요’처럼 대상과 상황을 알려 주면, 출발점을 만들 때 활용할 수 있습니다.

다만 가게의 실제 휴무일이나 오늘 남은 좌석을 저절로 아는 것은 아닙니다. 사장님만 아는 사실은 먼저 전달해야 합니다. 초안을 만든 뒤에는 말투보다 주소, 날짜, 이용 조건을 먼저 대조하는 순서가 실용적입니다.

토큰은 모델이 문장을 나누어 처리하는 단위입니다. 한 단어가 여러 토큰으로 나뉠 수 있어 글자 수나 단어 수와 그대로 일치하지 않습니다.

긴 상담 기록을 작은 메모 묶음으로 나누어 책상 위에 펼친다고 생각하면 쉽습니다. 읽어야 할 자료가 길수록 살펴볼 묶음도 늘어납니다. 서비스의 입력 제한을 확인할 때는 ‘몇 장’보다 실제 지원 단위를 확인하는 편이 정확합니다.

질문에 관계없는 지난 대화까지 계속 붙이기보다는, 이번 작업의 목적과 필요한 자료를 추려 전달해 보십시오. 예를 들어 소개문 수정이라면 기존 문구, 바꿀 사실, 원하는 길이를 한 번에 적으면 검토할 범위도 분명해집니다.

AI 환각은 실제 사실을 말하는 것처럼 보이지만 내용은 틀린 출력을 뜻합니다. 문장이 매끄럽거나 자신 있게 쓰였다는 이유만으로 정확하다고 판단할 수 없습니다.

가령 행사 안내 초안에 제공하지 않은 할인 조건이 들어갔다면, 보기 좋게 다듬기 전에 그 문장을 지워야 합니다. AI가 적어 준 출처도 실제 페이지를 열고, 그 자료가 해당 주장을 뒷받침하는지 확인하는 습관이 필요합니다.

키리웹에 홈페이지 문구 수정을 요청하실 때도 AI 초안과 함께 실제 영업 정보, 바꾸려는 내용을 보내 주시면 요청 의도를 더 분명하게 전달할 수 있습니다. 초안 작성과 사실 확인을 별도 단계로 두면 빠뜨린 조건을 찾기 수월합니다.

RAG는 외부 문서나 데이터에서 관련 자료를 찾아 생성형 AI의 답변에 활용하는 방식입니다. 자료를 참고하더라도 최종 답변의 정확성을 확인하는 과정은 필요합니다.

직원이 기억만으로 답하는 대신 매장 안내문을 찾아 옆에 놓고 설명하는 상황에 빗댈 수 있습니다. 안내문에 옛 운영 시간이 남아 있다면 답변도 그 영향을 받을 수 있으므로, 자료를 연결하는 일만큼 원본을 최신 상태로 관리하는 일이 중요합니다.

처음부터 모든 상담을 자동화하기보다 반복 질문 몇 개를 골라, 어떤 자료에서 답해야 하는지 정리해 보십시오. 답을 찾지 못했을 때 직원에게 연결하는 기준도 적어 두면 이용 조건을 임의로 만들어 안내하는 일을 줄이는 데 도움이 됩니다.

오늘 내용이 가게 홈페이지를 준비하시는 데 도움이 되었으면 좋겠습니다.

홈페이지 제작이나 수정, 어디서부터 시작해야 할지 모르겠다면
사이트 주소나 고민 한 줄만 남겨 주셔도 괜찮습니다.
묻기만 하셔도 되고, 결정은 나중에 하셔도 됩니다.

감사합니다.

서비스 정책과 화면은 바뀔 수 있습니다. 아래 공식 자료와 확인일을 함께 참고해 주세요.