본문 바로가기
카테고리 없음

AI 입문자가 알아두면 좋은 핵심 용어

by IT BRIAN 2026. 9. 10.

1. AI의 기본 개념

용어 설명
AI (Artificial Intelligence) 인간이 하는 학습, 추론, 판단, 인식 등의 작업을 컴퓨터가 수행하도록 만드는 기술입니다.
머신러닝 (Machine Learning) 컴퓨터에게 규칙을 직접 하나하나 알려주는 대신, 데이터를 이용해 규칙이나 패턴을 스스로 학습하게 하는 방법입니다.
딥러닝 (Deep Learning) 머신러닝의 한 분야로, 여러 층의 **신경망(Neural Network)**을 이용해 복잡한 패턴을 학습합니다.
모델 (Model) 데이터를 학습한 결과로 만들어진 일종의 '규칙/패턴의 집합'입니다. 새로운 데이터가 들어오면 모델이 이를 바탕으로 결과를 만들어냅니다
알고리즘 (Algorithm) 문제를 해결하기 위한 절차나 방법입니다. AI에서는 데이터를 학습하거나 결과를 예측하는 방법을 의미합니다.
데이터 (Data) AI가 학습하거나 판단하는 데 사용하는 정보입니다. 텍스트, 이미지, 음성, 숫자 등이 모두 데이터가 될 수 있습니다.

 

2. 머신러닝을 이해하기 위한 용어

용어 설명
학습 (Training) 데이터를 모델에 제공하여 패턴을 학습시키는 과정입니다.
추론 (Inference) 학습이 끝난 모델에 새로운 데이터를 넣어 결과를 얻는 과정입니다.
훈련 데이터 (Training Data) 모델을 학습시키는 데 사용하는 데이터입니다.
검증 데이터 (Validation Data) 학습 중 모델의 성능을 확인하고 설정을 조정하는 데 사용하는 데이터입니다.
테스트 데이터 (Test Data) 학습이 끝난 모델이 실제로 얼마나 잘 작동하는지 최종적으로 평가하기 위한 데이터입니다.
특징 (Feature) 데이터에서 모델이 판단에 활용하는 정보입니다. 예를 들어 집값을 예측한다면 면적, 위치, 방 개수 등이 특징이 될 수 있습니다.
레이블 (Label) 학습 데이터에서 모델이 맞혀야 하는 정답입니다.
예측 (Prediction) 모델이 입력 데이터를 바탕으로 만들어낸 결과입니다.
손실 함수 (Loss Function) 모델의 예측이 정답과 얼마나 다른지를 수치로 나타내는 함수입니다.
정확도 (Accuracy) 모델이 전체 예측 중 얼마나 정확하게 맞혔는지를 나타내는 지표입니다.

 

3. 모델 학습에서 중요한 용어

용어 설명
파라미터 (Parameter) 모델이 데이터를 학습하면서 스스로 조정하는 값입니다. 딥러닝에서는 주로 가중치와 편향을 의미합니다.
가중치 (Weight) 입력 데이터의 중요도를 나타내는 값입니다.
편향 (Bias) 모델이 보다 유연하게 결과를 조정할 수 있도록 추가되는 값입니다.
하이퍼파라미터 (Hyperparameter) 사람이 학습 전에 설정하는 값입니다. 학습률, 배치 크기, 에포크 등이 대표적입니다.
학습률 (Learning Rate) 모델이 학습하면서 파라미터를 얼마나 크게 변경할지를 결정하는 값입니다.
에포크 (Epoch) 전체 학습 데이터를 한 번 모두 사용하는 것을 의미합니다.
배치 (Batch) 한 번에 모델에 넣어 학습시키는 데이터 묶음입니다.
과적합 (Overfitting) 모델이 학습 데이터를 지나치게 외워 새로운 데이터에서는 성능이 떨어지는 현상입니다.
과소적합 (Underfitting) 모델이 충분히 학습하지 못해 학습 데이터에서도 제대로 성능을 내지 못하는 현상입니다.

 

4. 신경망과 딥러닝 용어

용어 설명
신경망 (Neural Network) 인간의 뇌 신경세포 구조에서 영감을 받아 만든 머신러닝 모델입니다.
뉴런 (Neuron) 신경망을 구성하는 기본적인 계산 단위입니다.
레이어 (Layer) 뉴런들을 층으로 묶은 것입니다.
입력층 (Input Layer) 데이터를 모델에 입력하는 층입니다.
은릭층 (Hidden Layer) 입력 데이터를 변환하고 특징을 추출하는 중간 층입니다.
출력층 (Output Layer) 최종적인 예측 결과를 만들어내는 층입니다.
활성화 함수 (Activation Function) 신경망의 각 뉴런에서 입력을 변환하는 함수입니다. ReLU, Sigmoid 등이 있습니다.
역전파 (Backpropagation) 모델의 오차를 뒤쪽에서 앞으로 전달하여 파라미터를 수정하는 학습 방법입니다.
기울기 (Gradient) 손실을 줄이기 위해 파라미터를 어느 방향으로 얼마나 변경해야 하는지를 나타내는 정보입니다.
경사하강법 (Gradient Descent) Gradient를 이용하여 손실이 작아지는 방향으로 파라미터를 업데이트하는 방법입니다.

 

5. 생성형 AI를 공부할 때 꼭 알아야 하는 용어

용어 설명
생성형 AI (Generative AI) 기존 데이터를 단순히 분류하는 것을 넘어 텍스트, 이미지, 음성, 영상, 코드 등을 새롭게 생성하는 AI입니다.
LLM (Large Language Model) 방대한 텍스트 데이터를 학습하여 인간의 언어를 이해하고 생성하도록 만들어진 대규모 언어 모델입니다.
GPT 대표적인 LLM 계열의 모델 및 모델군을 가리키는 이름입니다.
Transformer 현재 LLM의 핵심이 되는 신경망 구조입니다.
Attention 입력 데이터에서 어떤 부분에 더 집중해야 하는지를 계산하는 메커니즘입니다.
Self-Attention 입력 데이터 내부의 여러 요소가 서로 어떤 관계를 가지는지를 계산하는 Attention 방식입니다.
토큰 (Token) LLM이 텍스트를 처리하기 위해 문장을 잘게 나눈 단위입니다. 단어 전체일 수도 있고 단어의 일부일 수도 있습니다.
토큰화 (Tokenization) 텍스트를 토큰 단위로 나누는 과정입니다.
컨텍스트 (Context) AI가 현재 답변을 만들 때 참고할 수 있는 앞뒤 정보입니다.
Context Window 모델이 한 번에 참고할 수 있는 최대 토큰 범위입니다.
프롬프트 (Prompt) AI에게 원하는 작업이나 정보를 전달하기 위해 입력하는 명령 또는 내용입니다.
Prompt Engineering 원하는 결과를 얻기 위해 프롬프트를 효과적으로 설계하는 방법입니다.
Temperature 생성형 AI의 결과가 얼마나 다양하고 무작위적인지를 조절하는 설정값입니다.
환각 (Hallucination) AI가 사실이 아닌 내용을 실제 사실처럼 만들어내는 현상입니다.

 

6. LLM을 깊게 이해하려면 알아야 할 용어

용어 설명
사전학습 (Pre-training) 대규모 데이터를 사용하여 모델이 언어의 기본적인 패턴과 지식을 학습하는 과정입니다.
파인튜닝 (Fine-tuning) 이미 학습된 모델을 특정 목적이나 데이터에 맞게 추가 학습시키는 과정입니다.
Instruction Tuning 사람이 원하는 지시를 잘 따르도록 모델을 추가 학습시키는 방법입니다.
RLHF 인간의 피드백을 활용해 AI가 사람에게 더 유용한 답변을 하도록 조정하는 방법입니다.
임베딩 (Embedding) 텍스트 등의 데이터를 숫자 벡터로 변환하여 의미와 관계를 계산할 수 있도록 만드는 방법입니다.
벡터 (Vector) 데이터를 여러 숫자의 배열로 표현한 것입니다. AI에서는 데이터의 특징이나 의미를 수치적으로 표현할 때 사용합니다
Vector Database 임베딩된 벡터를 저장하고 서로 유사한 데이터를 빠르게 검색하기 위한 데이터베이스입니다.
RAG (Retrieval-Augmented Generation) AI가 답변하기 전에 외부 자료를 검색하고 그 정보를 활용해 답변하도록 만드는 방식입니다.
에이전트 (Agent) AI가 단순히 답변하는 것을 넘어 목표를 달성하기 위해 도구를 사용하고 여러 작업을 수행하도록 만든 시스템입니다
Tool Calling AI가 외부 도구나 API를 호출하여 검색, 계산, 데이터 조회 등의 작업을 수행하는 기능입니다.

 

7. AI를 실제 서비스에 적용할 때 나오는 용어

용어 설명
API 다른 프로그램이 AI 모델의 기능을 사용할 수 있도록 제공하는 연결 방법입니다.
Inference Server 학습된 AI 모델을 실제 서비스에서 실행하고 요청에 답변하도록 하는 시스템입니다.
GPU AI 모델의 대규모 병렬 계산에 매우 적합한 하드웨어입니다. 
CUDA NVIDIA GPU를 활용하여 병렬 계산 프로그램을 개발할 수 있도록 하는 플랫폼입니다.
Latency AI가 요청을 받은 후 결과를 반환하기까지 걸리는 시간입니다.
Throughput 일정 시간 동안 AI가 처리할 수 있는 요청이나 데이터의 양입니다.
양자화 (Quantization) 모델의 숫자 표현 정밀도를 낮춰 메모리 사용량과 연산량을 줄이는 기술입니다.
지식증류 (Distillation) 큰 모델의 지식을 작은 모델에게 학습시켜 작은 모델을 만드는 방법입니다.
Open Source Model 모델의 코드나 가중치 등을 공개하여 다른 사람들이 활용하거나 수정할 수 있도록 한 모델입니다.

소개 및 문의 · 개인정보처리방침 · 면책조항

© 2026 블로그 이름