생성형 AI와 거대언어모델(LLM) 및 구글 코랩 입문

**생성형 인공지능(Generative AI)**은 텍스트, 이미지, 오디오, 비디오, 소스코드 등 인간 고유의 창작 영역이었던 다양한 모달리티(Modality)의 데이터를 스스로 생성해내는 인공지능 기술입니다. 그 중심에는 인간의 언어를 유연하게 이해하고 생성하는 **거대언어모델(LLM, Large Language Model)**이 위치하고 있습니다.

1. 생성형 AI & LLM 전문 용어 사전 (Glossary)

• LLM (Large Language Model): 수천억 개(Hundreds of Billions) 이상의 매개변수(Parameter)를 바탕으로 인터넷 상의 거대한 문헌 빅데이터를 사전 학습(Pre-training)한 거대 인공신경망입니다.
• Transformer (트랜스포머): 2017년 구글 연구진의 "Attention Is All You Need" 논문에서 제시된 아키텍처로, 순차 처리(RNN) 방식 대신 문맥 전체의 연관성을 병렬 처리하는 Self-Attention 기법을 사용합니다.
• Self-Attention (자체 주의집중 메커니즘): 문장 내의 모든 단어가 서로 어떤 관계를 맺고 있는지 확률적 가중치(Query, Key, Value)로 수치화하여 핵심 문맥을 파악하는 알고리즘입니다.
• Token (토큰): LLM이 텍스트를 처리하는 인코딩/디코딩 최빈 단위입니다. 보통 영어는 약 4자당 1토큰, 한국어는 1글자당 1~3토큰(BPE 기반)으로 분할됩니다.
• Parameter (매개변수/파라미터): 신경망 내부의 노드 연결 가중치(Weights)와 편향(Biases)의 총합으로, AI 모델의 지능적 능력과 기억 용량을 결정합니다.
• Hallucination (환각 현상): 모델이 근거 없는 거짓 정보를 마치 사실인 것처럼 매끄러운 어조로 지어내어 출력하는 본질적 약점 현상입니다.
• Reasoning Model (추론 전용 모델): DeepSeek-R1이나 OpenAI o1/o3처럼 정답을 출력하기 전 내부적 생각을 정리하는 "Chain-of-Thought" 사고 과정을 거치는 최신 인공지능 모델입니다.

2. LLM의 동작 메커니즘: Next-Token Prediction

LLM은 근본적으로 문장 속에 연속된 단어 시퀀스가 주어졌을 때, "다음에 올 가장 확률이 높은 단어(Next-Token Prediction)"를 수학적 확률로 예측하는 소프트웨어입니다.

$$P(w_n | w_1, w_2, \dots, w_{n-1}) = \text{softmax}(W \cdot h_{n-1})$$

2026년 기준 글로벌 대표 LLM 최신 성능 비교

3. 무료 파이썬 AI 실습 환경: 구글 코랩 (Google Colab)

클라우드 상에서 GPU 자원(T4, V100 등)과 최신 파이썬 3.10+ 환경을 웹 브라우저만으로 즉시 사용할 수 있는 구글의 개발 플랫폼입니다.

구글 코랩 필수 단축키 및 실행 가이드

• Shift + Enter: 현재 셀을 실행하고 다음 셀로 이동
• Ctrl + M B: 아래쪽에 새 코드 셀 추가
• ! (느낌표): 파이썬 셀 내부에서 쉘 명령어 실행 (예: !pip install openai)

# 구글 코랩 환경 및 시스템 패키지 확인
import sys
import os

print(f"파이썬 실행 버전: {sys.version}")
print(f"현재 실행 경로: {os.getcwd()}")

# 주요 AI 파이썬 라이브러리 버전 확인
import torch
print(f"PyTorch 버전: {torch.__version__} | GPU 가능 여부: {torch.cuda.is_available()}")

4. 자주 묻는 질문 (Q&A)

Q. LLM 모델의 파라미터 수(예: 7B, 70B, 405B)는 무엇을 의미하나요? A. 'B'는 Billion(10억)을 뜻합니다. 7B는 70억 개, 70B는 700억 개의 매개변수를 의미합니다. 파라미터가 클수록 지식의 폭과 추론 능력이 뛰어난 대신, 실행 시 필요한 GPU VRAM 메모리 용량이 비례하여 증가합니다.