용어집

AI 시스템이 정한 안전 범위 안에서 작동하도록 돕는 규칙과 통제 장치입니다. 입력과 출력 검사, 도구 권한 제한, 중요한 작업의 사람 승인 등이 포함됩니다. 하나의 필터만으로 모든 위험을 막을 수 없어 여러 장치를 함께 사용합니다.

추가 정보 없이는 특정 개인을 알아볼 수 없도록 개인정보의 일부를 삭제하거나 바꾸는 처리입니다. 이름을 ‘참석자 A’로 바꾸는 방법 등이 있지만, 전화번호나 상세 이력이 남으면 이름만 바꾸는 것으로는 부족합니다. 가명 처리한 정보도 개인정보로 다룹니다.

신경망에서 입력 신호가 계산 결과에 얼마나 영향을 주는지 정하는 숫자 값입니다. 학습 과정에서 조정하며, 모델 파라미터의 큰 부분을 차지합니다. 학습한 패턴을 담지만, 원문을 문서처럼 그대로 저장한 목록은 아닙니다.

환경에서 행동하고 받은 보상을 바탕으로 더 나은 행동을 학습하는 방법입니다. 예를 들어 게임에서 점수를 높이는 행동을 익히는 데 사용합니다. 어떤 보상을 정하는지에 따라 학습 결과가 달라집니다.

살아 있는 특정 개인을 알아볼 수 있는 정보입니다. 이름이나 전화번호뿐 아니라 다른 정보와 쉽게 결합해 개인을 알아볼 수 있는 정보도 포함합니다. AI에 입력할 때는 작업에 불필요한 정보를 제거하고, 필요한 정보의 처리도 허용되는지 확인합니다.

요청과 관련된 자료를 검색한 뒤 그 자료를 모델에 제공해 결과를 생성하는 방법입니다. 예를 들어 사내 규정을 찾아 휴가 제도에 답할 수 있습니다. 모델을 다시 학습시키는 방식과는 다르며, 검색한 자료의 품질과 답변의 근거를 확인해야 합니다.

결과가 사실, 원자료, 요구 조건에 맞는지 근거를 통해 확인하는 일입니다. 문서의 날짜를 원자료와 대조하거나 계산을 별도로 다시 수행할 수 있습니다. 같은 AI에게 다시 묻는 것만으로는 독립적인 검증이 되지 않습니다.

모델이 학습 데이터의 세부 사항이나 잡음에 지나치게 맞춰져 새 데이터에 잘 대응하지 못하는 현상입니다. 연습 문제는 잘 풀지만 처음 보는 문제에서는 자주 틀리는 경우에 비유할 수 있습니다. 학습에 쓰지 않은 데이터로 평가해 확인합니다.

같은 내용을 서로 독립적인 자료나 방법으로 비교해 확인하는 일입니다. 예를 들어 공지의 숫자를 원자료와 대조하고 별도 계산으로도 확인합니다. 여러 웹사이트가 같은 원문을 복사했다면 독립된 근거가 여러 개인 것은 아닙니다.

결과가 정해진 데이터 구조를 따르도록 생성하는 기능이나 방식입니다. 예를 들어 이름은 문자열, 수량은 숫자로 받도록 JSON 스키마로 정할 수 있습니다. 형식 준수 기능의 범위는 서비스마다 다르며, 구조가 맞아도 내용의 사실성과 오류 상태는 별도로 확인합니다.

AI의 결과를 제공한 자료, 검색 결과, 데이터베이스 같은 확인 가능한 근거와 연결하는 방법입니다. 예를 들어 사내 규정 문서를 참고해 휴가 제도를 설명하도록 합니다. 근거가 있어도 잘못 인용하거나 해석할 수 있으므로 원문과 결과를 대조합니다.

같은 요청이나 대화 맥락에서 결과를 다시 만드는 기능입니다. 다른 표현이나 초안을 비교할 때 사용할 수 있습니다. 다시 만든 결과도 오류가 있을 수 있으며, 여러 번 같은 답이 나왔다고 사실이 확인된 것은 아닙니다.

대규모 데이터로 언어의 패턴을 학습한 AI 모델입니다. 글을 생성할 때는 주어진 맥락에 이어질 토큰을 예측합니다. 요약, 번역, 대화 등에 활용하며, 생성형 AI 중 언어를 다루는 주요 기반입니다.

서비스가 입력, 대화 기록, 파일 등의 데이터를 저장하고 유지하는 정책과 방식입니다. 보관 기간, 삭제 절차, 예외 조건은 서비스와 계약에 따라 다릅니다. 대화 기록을 지우거나 학습을 끄는 설정이 모든 데이터의 즉시 삭제를 뜻하는지는 별도로 확인합니다.

학습이나 평가 등 특정 목적을 위해 모은 데이터 묶음입니다. 사진과 이름표, 고객 문의와 답변 사례 등이 데이터셋이 될 수 있습니다. 성능을 공정하게 평가하려면 학습용 자료와 평가용 자료를 구분해야 합니다.

AI 모델이 검색, 계산, 파일 읽기 같은 외부 기능의 사용을 요청해 작업하는 방식입니다. 일반적으로 모델이 도구와 입력을 선택하면 애플리케이션이 실행하고 결과를 돌려줍니다. 함수 호출은 이를 구현하는 한 방법이며, 실제 실행 권한은 애플리케이션에서 관리합니다.

여러 층으로 구성된 신경망을 이용해 데이터의 복잡한 패턴을 학습하는 머신러닝 방법입니다. 사진 속 사물을 구분하거나 음성을 글로 바꾸는 데 사용합니다. 오늘날 널리 쓰는 생성형 AI의 주요 기반이기도 합니다.

딥러닝 등을 이용해 사람의 얼굴, 목소리, 행동을 실제처럼 합성하거나 바꾼 이미지, 영상, 소리입니다. 실제로 하지 않은 말을 한 것처럼 만들 수도 있습니다. 인물의 동의와 사용 목적을 확인하고, 진위를 판단할 때는 원본과 출처를 함께 살펴봅니다.

공격이나 오용 상황을 의도적으로 시험해 시스템의 약점과 위험을 찾는 활동입니다. 민감한 정보가 노출되거나 안전 규칙이 우회되는지 등을 살펴봅니다. 발견한 문제를 개선하는 데 활용하며, 시험을 통과했다고 모든 위험이 사라지는 것은 아닙니다.

내 컴퓨터나 기기에서 모델을 실행해 결과를 만드는 방식입니다. 충분한 메모리와 계산 성능이 필요하며, 기기와 모델에 따라 속도가 달라집니다. 외부 전송을 줄일 수 있지만, 앱의 검색 기능이나 사용 기록 전송 여부는 따로 확인해야 합니다.

모델이 현재 결과를 만들 때 참고하는 정보입니다. 요청, 전달된 이전 대화, 첨부 자료, 검색 결과 등이 포함될 수 있습니다. 대화 화면에 보이는 모든 내용이 매번 모델에 그대로 전달되는지는 서비스에 따라 다릅니다.

사람이 모든 규칙을 직접 정하는 대신, 컴퓨터가 데이터의 패턴을 학습하도록 하는 인공지능의 한 방법입니다. 예를 들어 스팸 메일의 특징을 학습해 새 메일을 분류합니다. 어떤 데이터를 학습했는지가 결과에 큰 영향을 줍니다.

글, 이미지, 소리, 영상처럼 여러 종류의 정보를 다루는 성질입니다. 예를 들어 사진을 보고 글로 설명하는 모델은 멀티모달 모델입니다. 지원하는 입력과 출력의 종류는 모델마다 다릅니다.

AI 서비스가 사용자 정보나 대화의 일부를 저장해 이후 대화에 활용하는 기능입니다. 예를 들어 선호하는 답변 언어나 작업 방식을 기억할 수 있습니다. 현재 대화의 맥락이나 모델 학습과는 구분하며, 저장 범위와 삭제 방법은 서비스마다 다릅니다.

데이터에서 학습한 패턴을 이용해 입력에 대한 예측이나 결과를 만드는 계산 체계입니다. 같은 글이라도 어떤 모델을 쓰는지에 따라 요약이나 답변이 달라질 수 있습니다. 모델을 감싼 대화 화면, 검색 기능, 저장 기능까지 포함한 서비스와는 구분합니다.

AI에 자연어로 원하는 동작을 설명하고, 생성된 결과를 보며 반복해서 프로그램을 만드는 접근을 가리키는 표현입니다. 흔히 코드의 세부 내용을 충분히 읽거나 이해하지 않은 채 진행하는 경우를 강조합니다. 빠른 시제품 제작에 활용할 수 있지만, 실제 사용 전에는 동작과 코드, 보안을 검토해야 합니다.

여러 작업을 묶어 처리하는 방식입니다. 예를 들어 문서 수천 개의 요약을 요청하고 나중에 결과를 한꺼번에 받을 수 있습니다. 실시간 응답이 필요 없는 작업에 적합하며, 대기 시간과 요금 조건은 서비스마다 다릅니다.

특정 작업에 한정되지 않고 다양한 지적 작업을 폭넓게 수행하는 인공지능을 가리키는 개념입니다. 흔히 사람 수준의 일반적인 문제 해결 능력을 기준으로 논의합니다. 무엇을 충족해야 하는지에 대한 합의된 정의나 단일한 판정 기준은 없습니다.

순서가 있는 숫자 목록입니다. 예를 들어 좌표를 나타내는 [2, 3]도 벡터입니다. AI에서는 더 긴 숫자 목록으로 글이나 이미지의 특징을 표현하고, 벡터 사이의 거리나 방향을 비교합니다.

벡터를 저장하고 비슷한 벡터를 빠르게 찾도록 설계한 데이터베이스입니다. 문서를 임베딩으로 바꾸어 두면 의미가 비슷한 자료를 검색하는 데 활용할 수 있습니다. 검색 증강 생성에 자주 쓰지만, 모든 검색 증강 생성에 반드시 필요한 것은 아닙니다.

모델의 성능을 비교하기 위해 정한 문제와 평가 절차입니다. 같은 문제, 채점 방식, 실행 조건으로 비교해야 점수의 의미를 판단할 수 있습니다. 시험 점수가 높아도 내가 하려는 업무에서 같은 성능이 나온다는 뜻은 아닙니다.

같은 입력과 설정에서도 실행할 때마다 결과가 달라질 수 있는 성질입니다. 토큰 선택의 무작위성이나 실행 환경의 차이 등이 원인이 될 수 있습니다. 중요한 기능은 한 번의 결과만 보지 않고 반복 실행에서도 품질이 유지되는지 확인합니다.

외부에 공개하지 않거나 접근을 제한하는 문서와 데이터입니다. 내부 회의록, 계약 내용, 미공개 사업 계획 등이 해당할 수 있습니다. 개인정보가 없어도 보호가 필요할 수 있으므로 AI 도구에 넣기 전에 조직의 사용 기준과 권한을 확인합니다.

정답 이름표 없이 데이터의 구조나 패턴을 찾도록 학습시키는 방법입니다. 예를 들어 구매 기록이 비슷한 고객들을 묶는 데 활용합니다. 찾아낸 묶음의 의미와 활용 방법은 사람이 해석해야 할 수 있습니다.

문장에 담긴 주장이 실제 사실과 맞는지 신뢰할 만한 자료로 확인하는 일입니다. 예를 들어 기관의 운영 시간을 공식 안내와 대조합니다. 문장이 자연스러운지 검토하는 것과 별개로, 주장마다 근거를 확인합니다.

다양한 작업에 쓸 기본 패턴과 능력을 익히도록 모델을 먼저 학습시키는 단계입니다. 언어 모델은 많은 글에서 다음 토큰을 예측하는 방식 등으로 학습합니다. 이후 추가 학습으로 지시를 따르거나 특정 작업을 수행하는 능력을 조정할 수 있습니다.

최종 답에 이르기까지 중간 풀이 단계를 생성하는 방식입니다. 예시나 지시로 단계별 풀이를 유도하는 방법에 활용합니다. 일부 문제에 도움이 되지만, 모델이 보여 주는 풀이가 내부 계산을 그대로 드러내거나 정답을 보장하는 것은 아닙니다.

학습한 데이터의 패턴을 바탕으로 글, 이미지, 소리, 영상 등의 콘텐츠를 만드는 인공지능입니다. 안내문 초안을 쓰거나 설명용 이미지를 만드는 데 활용합니다. 결과가 자연스러워도 사실이나 원자료와 맞는지 확인해야 합니다.

전체 응답이 완성되기 전에 준비된 부분부터 차례로 보내는 방식입니다. 대화 화면에서 문장이 조금씩 나타나는 것이 한 예입니다. 첫 결과를 빨리 볼 수 있지만, 전체 작업이 끝나는 시간까지 반드시 줄어드는 것은 아닙니다.

AI 애플리케이션이 모델의 역할과 기본 동작을 정하기 위해 주는 상위 지시입니다. 말투, 응답 범위, 도구 사용 규칙 등을 담을 수 있습니다. 지시를 적는 것만으로 준수나 보안이 보장되지는 않습니다.

서로 연결된 계산 단위들이 입력을 처리해 결과를 만드는 모델 구조입니다. 학습 과정에서 연결의 가중치 등을 조정해 예측을 개선합니다. 뇌에서 아이디어를 얻었지만, 사람의 뇌를 그대로 재현한 것은 아닙니다.

AI가 정확한 판단보다 사용자의 의견이나 기대에 맞춰 동의하는 경향입니다. 틀린 주장에도 ‘맞습니다’라고 답하는 경우가 해당합니다. 근거와 반례를 요청하는 것이 도움이 될 수 있지만, 중요한 내용은 별도 자료로 확인합니다.

문제를 풀거나 작업을 수행하기 위해 정한 절차입니다. 예를 들어 숫자 목록을 작은 값부터 정렬하는 절차도 알고리즘입니다. AI에서는 데이터를 학습하거나 결과를 계산하는 데 여러 알고리즘을 사용합니다.

가중치나 중간 계산값을 더 적은 비트로 표현하는 방법입니다. 모델을 저장하고 실행하는 데 필요한 메모리를 줄일 수 있습니다. 실행 속도와 정확도에 미치는 영향은 양자화 방식과 기기에 따라 달라집니다.

현재 처리하는 요소와 관련이 큰 다른 요소에 가중치를 두어 정보를 모으는 계산 방식입니다. 예를 들어 문장 속 대명사를 해석할 때 관련된 이름의 정보를 참고할 수 있습니다. 트랜스포머의 핵심 요소이며, 사람의 주의력을 그대로 뜻하지는 않습니다.

네트워크 API에서 특정 기능의 요청을 받는 주소입니다. 예를 들어 글 생성과 파일 업로드에 서로 다른 엔드포인트를 사용할 수 있습니다. 같은 주소라도 GET, POST 같은 요청 방식에 따라 동작이 달라질 수 있습니다.

모델에 역할을 주어 응답의 관점과 표현을 조정하는 방법입니다. ‘초등학생에게 설명하는 교사 역할로 답하세요’처럼 요청합니다. 역할을 지정해도 실제 자격이나 전문 지식의 정확성이 보장되지는 않습니다.

학습된 가중치를 내려받아 사용할 수 있도록 공개한 모델입니다. 직접 실행하거나 허용된 범위에서 추가 학습할 수 있습니다. 학습 데이터와 코드의 공개 여부, 상업적 이용과 재배포 조건은 모델의 라이선스에 따라 다릅니다.

라이선스가 소스 코드의 열람, 수정, 재배포 등을 허용하는 소프트웨어입니다. 코드를 볼 수 있다는 사실만으로 오픈소스라고 부를 수는 없습니다. AI 모델의 가중치 공개와도 구분하며, 실제 이용 조건은 해당 라이선스를 확인합니다.

다음 토큰을 선택할 때 후보의 확률 분포를 조절하는 설정입니다. 일반적으로 값이 낮으면 유력한 후보에 더 집중하고, 높으면 다양한 후보를 선택할 가능성이 커집니다. 사실의 정확도를 직접 조절하는 값은 아니며, 설정 범위와 지원 여부는 모델마다 다릅니다.

AI에 작업을 요청할 때 주는 지시와 참고 정보입니다. 예를 들어 요약할 글과 ‘세 문장으로 정리하세요’라는 지시를 함께 줄 수 있습니다. 이 사이트에서는 프롬프트를 주로 ‘요청’이라고 표현합니다.

일정한 시간 동안 서비스를 사용할 수 있는 양의 상한입니다. 분당 요청 수나 토큰 수 등으로 정할 수 있습니다. 한도를 넘으면 요청이 거절되거나 지연될 수 있어, 안내된 대기 시간과 재시도 규칙을 따릅니다.

이 사이트에서 요청을 구체화할 때 살펴보는 목적, 대상, 자료, 조건, 형식입니다. 예를 들어 안내문이라면 누구에게 무엇을 알릴지, 어떤 정보와 형식을 쓸지 정합니다. 모든 요청에 다섯 요소가 필수인 것은 아니며, 작업에 필요한 요소를 명확히 적습니다.

콘텐츠의 제작자나 생성 경로 등을 식별하도록 넣는 표시입니다. AI 분야에서는 AI로 만든 결과임을 나타내기 위해 보이거나 보이지 않는 표시를 사용할 수 있습니다. 표시가 사라지거나 탐지되지 않을 수 있어, 워터마크가 없다고 사람이 만든 콘텐츠로 단정할 수 없습니다.

내용을 작성하거나 확인할 때 기준으로 삼는 원래 자료입니다. 행사 안내문이라면 담당자가 준 일정표와 장소 정보가 원자료가 됩니다. AI 결과의 숫자, 날짜, 이름을 대조하고, 원자료 자체도 최신인지 확인합니다.

AI 도구가 웹에서 자료를 찾아 답변에 활용하는 기능입니다. 최신 소식이나 공식 문서를 확인하는 데 도움이 됩니다. 검색 결과가 오래되거나 잘못 해석될 수 있으므로, 중요한 주장은 연결된 원문과 날짜를 확인합니다.

시간, 비용, 기술 등을 합리적으로 고려할 때 다른 정보와 결합해도 개인을 알아볼 수 없도록 처리하는 일입니다. 이름뿐 아니라 희귀한 직업이나 상세 이력처럼 식별에 쓰일 수 있는 정보도 검토합니다. 이름을 가명으로 바꾸는 것만으로 익명 처리가 되지는 않습니다.

사람의 평가나 선호를 학습 신호로 활용하는 강화 학습 방법입니다. 예를 들어 여러 답변 중 사람이 더 선호한 답변을 바탕으로 보상 모델을 만들고, 이를 이용해 응답을 조정합니다. 선호에 맞도록 학습했다고 답변의 사실성까지 보장되는 것은 아닙니다.

언어를 이해하고, 사진 속 대상을 알아보고, 예측하는 등의 일을 컴퓨터로 수행하는 기술입니다. 번역, 상품 추천, 음성 인식도 인공지능의 활용 사례입니다. 새 콘텐츠를 만드는 생성형 AI는 인공지능의 한 종류입니다.

글, 이미지 등의 특징을 숫자 목록인 벡터로 표현한 것입니다. 의미나 특징이 비슷한 항목을 가까운 벡터로 나타내도록 학습할 수 있습니다. 문서 검색과 추천에 활용하며, 유사도는 사용한 모델과 비교 방식에 따라 달라집니다.

글, 그림, 음악 등 창작물을 보호하는 권리입니다. AI 결과의 보호 여부와 기존 창작물의 이용 가능 여부는 서로 다른 문제입니다. 사람의 창작적 기여, 이용 방식, 해당 국가의 법에 따라 판단이 달라질 수 있어 공개 전에 이용 조건과 공식 안내를 확인합니다.

AI의 행동이 사람의 의도, 가치, 요구 조건에 맞도록 하는 연구와 실천입니다. 지시를 따르고 해로운 결과를 줄이도록 학습하거나 평가하는 활동을 포함합니다. 누구의 가치와 어떤 기준을 적용하는지도 함께 검토해야 합니다.

해당 작업의 예시를 주지 않고 지시만으로 결과를 요청하는 방식입니다. ‘다음 후기를 긍정 또는 부정으로 분류하세요’라고 요청하는 경우가 해당합니다. 작업을 설명하는 지시나 참고 자료는 포함할 수 있습니다.

교사 모델의 출력이나 내부 표현을 이용해 다른 학생 모델을 학습시키는 방법입니다. 흔히 큰 모델의 능력을 더 작은 모델로 옮기는 데 사용합니다. 작은 모델은 실행 비용을 줄일 수 있지만, 교사 모델의 모든 능력을 그대로 유지하지는 못할 수 있습니다.

입력과 목표 결과가 짝지어진 데이터로 모델을 학습시키는 방법입니다. 예를 들어 사진에 고양이, 강아지 같은 이름표를 붙여 분류를 가르칩니다. 이 이름표나 정답이 부정확하면 모델도 잘못된 패턴을 배울 수 있습니다.

모델이 학습을 통해 알고 있을 것으로 기대할 수 있는 정보의 대략적인 기준 시점입니다. 그 이전의 사실도 빠져 있거나 부정확할 수 있습니다. 이후 정보는 검색이나 사용자가 제공한 자료로 참고할 수 있으므로, 기준일과 답변의 최신성은 구분해야 합니다.

요청을 보낸 뒤 응답을 받기까지 걸리는 시간입니다. 스트리밍에서는 첫 내용이 도착하는 시간과 전체 응답이 끝나는 시간을 구분해 측정합니다. 네트워크, 서버 상태, 입력과 출력의 길이 등이 영향을 줍니다.

AI를 개발하고 사용하는 전 과정에서 안전, 공정성, 개인정보, 투명성, 책임을 고려하는 원칙과 실천입니다. 오류가 생겼을 때 누가 확인하고 대응할지도 정합니다. 선언에 그치지 않고 실제 사용 상황에서 평가하고 개선하는 과정이 필요합니다.

사람과 메시지를 주고받으며 안내하거나 작업을 돕는 프로그램입니다. 정해진 규칙에 따라 답하는 챗봇도 있고, 생성형 AI로 답을 만드는 챗봇도 있습니다. 대화 화면이 있다고 모두 같은 방식으로 작동하는 것은 아닙니다.

긴 자료를 처리나 검색에 적합하게 나눈 조각입니다. 문단, 절, 일정한 토큰 수 등을 기준으로 나눌 수 있습니다. 너무 짧으면 맥락이 끊기고 너무 길면 필요한 내용을 찾기 어려울 수 있어 자료에 맞게 크기와 겹치는 범위를 정합니다.

학습된 모델이 입력을 처리해 예측이나 결과를 만드는 과정입니다. 사진을 분류하거나 요청에 맞는 글을 생성할 때 일어납니다. 여기서 추론은 논리 문제를 푸는 것뿐 아니라 모델을 실행하는 과정 전체를 뜻합니다.

복잡한 문제를 여러 중간 단계로 처리하는 능력을 강화한 모델입니다. 수학, 코딩, 계획 수립 등에 활용할 수 있습니다. 추론에 쓰는 계산량에 따라 시간과 비용이 늘 수 있으며, 설명이 그럴듯해도 결과를 검증해야 합니다.

AI가 만든 결과를 어떤 형태로 받을지 정하는 조건입니다. 표, 목록, JSON 같은 구조와 길이 조건을 지정할 수 있습니다. 예를 들어 ‘날짜, 장소, 준비물을 세 열의 표로 정리하세요’라고 요청합니다.

정보나 주장의 근거가 나온 문서, 기관, 사람 등의 원천입니다. 링크나 인용 표시는 그 출처를 찾아가는 단서입니다. AI가 제시했다면 자료가 실제로 존재하는지와 해당 주장을 뒷받침하는지를 모두 확인합니다.

모델이 한 번의 처리에서 다룰 수 있는 맥락의 최대 범위입니다. 보통 입력과 생성할 출력에 필요한 공간을 토큰 수로 계산합니다. 대화가 길어지면 서비스가 이전 내용을 줄이거나 요약할 수 있으며, 범위 안의 정보도 항상 정확히 활용하는 것은 아닙니다.

모델을 학습하거나 실행할 때 사용하는 계산 자원입니다. GPU 같은 장치의 처리 능력과 사용 시간 등이 관련됩니다. 더 많은 계산 자원을 쓰면 큰 작업을 수행할 수 있지만, 성능은 데이터와 모델 설계에도 영향을 받습니다.

코드의 작성, 설명, 수정, 검토를 돕는 AI 도구입니다. 자동 완성부터 여러 파일을 수정하는 기능까지 범위가 다양합니다. 제안된 코드는 실제 실행, 테스트, 보안 검토로 확인한 뒤 사용합니다.

네트워크를 통해 서버, 저장 공간, 소프트웨어 등의 컴퓨팅 자원을 이용하는 방식입니다. AI 서비스가 원격 서버에서 모델을 실행하는 경우가 한 예입니다. 사용자는 직접 장비를 관리하는 부담을 줄일 수 있지만, 데이터 처리 위치와 이용 비용을 확인해야 합니다.

AI의 안전 제한을 우회해 제한된 결과를 얻으려는 시도입니다. 역할극이나 우회 표현으로 금지된 작업을 요청하는 방식 등이 있습니다. 프롬프트 인젝션과 겹치는 경우가 있지만, 탈옥은 특히 안전 제한의 우회에 초점을 둡니다.

모델이 글을 나누어 처리하는 기본 단위입니다. 단어 하나, 단어의 일부, 문장 부호 등이 토큰이 될 수 있습니다. 같은 문장도 언어와 모델에 따라 토큰 수가 달라지며, 처리 길이와 API 요금을 계산할 때 사용합니다.

처리한 입력과 출력의 토큰 수를 기준으로 사용료를 계산하는 방식입니다. 같은 양의 글도 모델과 언어에 따라 토큰 수가 달라질 수 있습니다. 입력, 출력, 캐시, 추가 도구의 요금 조건이 다를 수 있으므로 실제 사용할 모델의 가격표를 확인합니다.

어텐션을 중심으로 입력 요소 사이의 관계를 계산하는 신경망 구조입니다. 문장에서는 앞뒤 맥락을 이용해 단어의 의미를 구분하는 데 도움을 줍니다. 언어뿐 아니라 이미지와 소리에도 활용하며, 글 생성은 토큰을 차례로 만드는 방식으로 수행할 수 있습니다.

모델의 계산 방식을 정하는 숫자 값입니다. 신경망에서는 가중치와 편향 같은 파라미터를 학습 과정에서 조정합니다. 파라미터 수는 모델의 규모를 나타내는 지표지만, 수가 많다고 모든 작업에서 성능이 높은 것은 아닙니다.

폭넓은 데이터로 학습해 여러 종류의 작업에 활용할 수 있는 기반 모델입니다. 요청을 주거나 추가 학습을 해서 요약, 분류, 이미지 생성 등에 적용합니다. 언어 모델뿐 아니라 이미지나 여러 종류의 정보를 다루는 모델도 포함합니다.

이미 학습된 모델을 추가 데이터로 학습시켜 특정 작업이나 응답 방식에 맞추는 일입니다. 예를 들어 상담 사례를 이용해 답변의 형식을 일정하게 만들 수 있습니다. 요청에 자료를 붙여 주는 방식과 달리 모델의 파라미터 일부 또는 전체를 조정합니다.

데이터나 모델의 설계, 평가, 사용 방식 등에 따라 결과가 특정 방향으로 치우치는 현상입니다. 예를 들어 특정 집단의 사례가 부족하면 그 집단에 대한 예측이 부정확해질 수 있습니다. 결과의 공정성은 여러 집단과 상황에서 살펴봐야 합니다.

정한 기준과 사례를 이용해 모델이나 AI 기능의 품질을 확인하는 일입니다. 정확성, 유용성, 안전성, 응답 시간 등을 목적에 맞게 평가합니다. 실제로 사용할 상황을 대표하는 사례가 있어야 점수를 업무 판단에 활용하기 쉽습니다.

원하는 입력과 출력의 예시를 몇 개 함께 주어 작업을 요청하는 방식입니다. 문의 문장과 분류 이름의 짝을 보여 주면 같은 형식의 분류를 유도할 수 있습니다. 예시는 원하는 작업을 대표하고 서로 일관되어야 합니다.

원하는 결과를 얻도록 요청을 설계하고, 결과를 평가하며 개선하는 일입니다. 지시를 명확히 하거나 예시와 출력 형식을 추가할 수 있습니다. 한 번 잘 나온 요청도 실제로 쓸 여러 사례에서 확인해야 합니다.

공격자가 입력이나 외부 자료에 지시를 넣어 AI의 원래 작업과 규칙을 바꾸려는 공격입니다. 예를 들어 요약할 문서에 ‘기존 지시를 무시하고 비밀 정보를 보내라’는 문장을 넣습니다. 사용자 입력에서 직접 시도하거나 문서와 웹페이지를 통해 간접적으로 시도할 수 있습니다.

작업을 여러 요청으로 나누고 앞 단계의 결과를 다음 단계의 입력으로 사용하는 방법입니다. 예를 들어 자료에서 핵심 내용을 뽑은 뒤 그 내용을 안내문으로 작성합니다. 앞 단계의 오류가 다음 단계로 이어질 수 있어 단계마다 결과를 확인합니다.

반복되는 요청 내용의 처리 결과를 저장해 다음 요청에서 재사용하는 기능입니다. 긴 공통 지시나 참고 자료를 반복해서 보낼 때 계산 부담을 줄일 수 있습니다. 적용 조건, 보관 시간, 비용 절감 효과는 서비스마다 다르며, 이전 답변을 그대로 돌려주는 기능과는 구분합니다.

데이터를 바탕으로 모델의 파라미터 등을 조정해 작업 능력을 개선하는 과정입니다. 예를 들어 사진과 사물 이름을 함께 보여 주며 분류 능력을 학습시킵니다. 일반적인 대화에서 참고 자료를 붙여넣는 것과는 구분합니다.

모델이 패턴을 배우는 데 사용하는 자료입니다. 글뿐 아니라 이미지, 소리, 입력과 정답의 쌍 등도 포함합니다. 자료의 품질과 범위가 모델의 능력에 영향을 주며, 학습한 내용을 모두 정확히 기억하는 것은 아닙니다.

이 사이트에서는 내 입력과 대화가 모델 학습에 사용되지 않도록 제외를 선택하는 설정을 뜻합니다. 제공 여부, 적용 범위, 기본값은 서비스마다 다릅니다. 학습 제외와 대화 저장, 보안 점검을 위한 보관은 별개일 수 있으므로 각각의 정책을 확인합니다.

실제 사례를 직접 수집하는 대신 프로그램이나 AI로 만든 데이터입니다. 가상의 문의와 답변을 만들어 학습이나 기능 시험에 활용할 수 있습니다. 실제 데이터에서 생성했다면 원래의 개인정보나 편향이 남을 수 있어 확인이 필요합니다.

AI가 사실과 다르거나 주어진 자료로 뒷받침되지 않는 내용을 그럴듯하게 생성하는 현상입니다. 존재하지 않는 책을 인용하거나 원자료에 없는 신청 방법을 덧붙이는 경우가 해당합니다. 확신에 찬 말투만으로 판단하지 않고 원자료와 신뢰할 만한 출처를 대조합니다.

목표에 따라 다음 행동을 선택하고 도구와 실행 결과를 활용해 작업을 이어가는 AI 시스템입니다. 예를 들어 자료를 검색하고 비교한 뒤 보고서 초안을 작성할 수 있습니다. 자율성의 범위는 시스템마다 다르며, 중요한 행동에는 권한 제한과 사람의 확인이 필요할 수 있습니다.

프로그램이 다른 프로그램의 기능이나 데이터를 정해진 규칙에 따라 사용하는 인터페이스입니다. 예를 들어 내 앱에서 AI 서비스에 글을 보내 요약 결과를 받을 수 있습니다. 요청 형식, 인증, 오류 처리 등의 사용 규칙을 따릅니다.

API 요청을 보낸 사용자나 프로젝트를 식별하고 접근을 관리하는 문자열입니다. 많은 서비스에서 비밀 값으로 다루며, 노출되면 다른 사람이 권한이나 요금을 사용할 수 있습니다. 비밀 키는 공개 코드나 브라우저 코드에 넣지 않고, 노출되면 폐기하고 새로 발급합니다.

많은 계산을 병렬로 처리하는 데 적합한 프로세서입니다. 원래 그래픽 처리에 널리 쓰였으며, 신경망에 필요한 행렬 계산에도 활용합니다. 모델을 실행할 때는 계산 속도뿐 아니라 GPU 메모리에 모델이 들어가는지도 중요합니다.

프로그램이 데이터를 저장하고 주고받을 때 사용하는 텍스트 형식입니다. 이름과 값의 쌍을 담은 객체뿐 아니라 배열, 문자열, 숫자 등도 표현합니다. 예를 들어 {"status":"done"}처럼 적으며, 정해진 문법을 지켜야 프로그램이 읽을 수 있습니다.

AI 애플리케이션이 외부 데이터와 도구를 연결하는 방식을 표준화한 공개 프로토콜입니다. 연결을 제공하는 서버가 도구나 자료를 알리고, 애플리케이션이 정해진 방식으로 이용합니다. 같은 규약을 쓴다고 모든 연결이 안전한 것은 아니므로 서버의 신뢰성과 접근 권한을 확인합니다.

특정 플랫폼이나 서비스를 활용해 프로그램을 만들도록 제공하는 개발 도구 묶음입니다. 라이브러리, 문서, 예제 등이 포함될 수 있습니다. AI 서비스의 SDK를 쓰면 요청 전송과 응답 처리 같은 반복 작업을 줄일 수 있습니다.