공부 공부 공부합시다

DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning

논문: DeepSeek-AI, "DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning" (2025), Nature 링크: https://arxiv.org/abs/2501.12948 DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement LearningGeneral reasoning represents a long-standing and formidable challenge in artificial intelligence. Recent breakthroughs, exemplified by large language models (LLMs..

캐글 미니 프로젝트 (5) 자전거 대여 수요 예측 - 시간 순서를 지킨 회귀

지난 시계열 기초 글에서 "시간 데이터는 섞어서 나누면 안 된다"고 정리했다. 이번엔 그걸 실제 데이터에 적용해 본다. 시간별 자전거 대여 수를 날씨, 시간대 정보로 예측하는 회귀 문제이다. 1. 데이터 불러오기 워싱턴 D.C. 자전거 공유 서비스의 2011~2012년 시간별 대여 기록임. 캐글 Bike Sharing Demand 대회와 같은 원천 데이터를 OpenML에서 받음. from sklearn.datasets import fetch_openmldf = fetch_openml("Bike_Sharing_Demand", version=2, as_frame=True).frameprint(len(df)) # 17379 (시간 단위 행)print(df["count"].me..

모델을 노트북에서 한 번 잘 돌리는 것과, 실제 서비스에서 계속 돌아가게 하는 건 전혀 다른 일이다. 이 간극을 메우는 게 MLOps고, 그 중심에 "파이프라인"이 있다. 이번 글은 머신러닝 파이프라인의 단계와 운영 개념을 정리한다. 1. 왜 파이프라인인가 : 노트북 작업은 보통 "한 번 돌리고 끝"이라, 데이터가 바뀌거나 다시 학습할 때 손이 많이 감: 파이프라인 - 데이터 수집부터 배포까지의 단계를 정해진 순서로 이어, 반복, 자동화할 수 있게 만든 것: 같은 과정을 언제 돌려도 같은 결과가 나오게(재현성) 하고, 사람이 매번 수동으로 안 해도 되게 함: 모델은 한 번 만들고 끝이 아니라, 계속 돌리고 갱신해야 하는 대상이라 파이프라인이 필요함 2. 파이프라인의 단계 크게 다음 단계가 순서대로 이어..

매출, 주가, 방문자 수처럼 시간 순서로 쌓이는 시계열 데이터는 일반 데이터와 다르게 다뤄야 한다. 순서 자체가 정보라서, 행을 섞으면 의미가 깨진다. 1. 시계열 데이터란 : 시계열 - 시간 순서로 측정된 값의 나열임 (일별 매출, 시간별 기온 등): 보통 데이터와 달리, "순서"와 "간격"이 의미를 가짐 - 행을 무작위로 섞으면 안 됨: 과거가 미래에 영향을 주므로, 이웃한 값끼리 서로 관련이 큼(자기상관): 그래서 분석, 예측, 평가 방법도 일반 데이터와 다름 2. 구성요소 - 추세, 계절성, 잔차 시계열은 보통 몇 가지 성분으로 나눠서 봄(분해).: 추세(trend) - 길게 봤을 때 오르거나 내리는 큰 방향: 계절성(seasonality) - 일정 주기로 반복되는 패턴 (요일, 월, 연 단..

논문: Zhang et al., "Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models" (2025), ICLR 2026 링크: https://arxiv.org/abs/2510.04618 Agentic Context Engineering: Evolving Contexts for Self-Improving Language ModelsLarge language model (LLM) applications such as agents and domain-specific reasoning increasingly rely on context adaptation: modifying inputs with instructions..

지난 글에서 윈도우 함수 기본(순위, 증감, 누적합)을 문제로 풀었다. 이번엔 그 다음 단계로, 계산할 범위를 직접 정하는 프레임(ROWS BETWEEN)과 이를 이용한 이동평균을 풀어 본다. 1. 프레임이란 : 윈도우 함수는 OVER 안에서 "어떤 행들을 묶어 계산할지"를 정함 : PARTITION BY가 그룹을, ORDER BY가 순서를 정했다면, 프레임은 "현재 행 기준으로 앞뒤 어디까지"를 정함 : 문법은 ROWS BETWEEN 시작 AND 끝 형태임 : 시작, 끝에 쓰는 말 - UNBOUNDED PRECEDING(맨 앞), N PRECEDING(N행 앞), CURRENT ROW(현재 행), N FOLLOWING(N행 뒤), UNBOUNDED FOLLOWING(맨 끝) 2. 예제 테이블 ..

앞서 랜덤포레스트를 보며 "여러 트리를 묶는다"고 했다. 이렇게 모델 여러 개를 합치는 걸 앙상블이라 한다. 이번 글은 앙상블의 두 큰 방식, 배깅과 부스팅을 정리한다. 1. 앙상블이란 : 하나의 모델 대신, 여러 모델의 예측을 합쳐 더 좋은 결과를 내는 방법임 : 한 모델이 실수해도 다른 모델이 메워, 혼자보다 안정적이고 성능이 대체로 높음 : 합치는 방식에 따라 크게 배깅과 부스팅으로 나뉨 2. 배깅 - 병렬로 만들어 투표 : 데이터를 조금씩 다르게(중복 허용으로 뽑아) 여러 모델을 서로 독립적으로, 동시에 학습함 : 분류는 다수결, 회귀는 평균으로 최종 예측을 냄 : 서로 다른 모델의 실수가 평균에서 상쇄되어, 분산(들쭉날쭉함)이 줄어듦 : 랜덤포레스트가 대표적임 - 결정트리를 배깅으로 ..

분류에서 "정확도"만 보면 안 되는 이유를, 암 진단 데이터로 직접 확인해 본다. 앞서 다룬 정밀도, 재현율과 임계값 조정을 실제로 적용해 보고 코드를 돌려 나온 수치, 그래프로 정리한다. 1. 데이터 불러오기 sklearn 내장 유방암(breast cancer) 데이터를 씀. 569개 샘플, 종양의 특성 30개로 악성/양성을 판별함. from sklearn.datasets import load_breast_cancerd = load_breast_cancer(as_frame=True)df = d.frame# 주의: 원본은 0=악성(암), 1=양성(정상)# "암을 놓치지 않기"의 재현율이 의미 있도록 암=1로 뒤집음y = (df["target"] == 0).astype(int) # 악성(암)=1,..

논문: Schick et al., "Toolformer: Language Models Can Teach Themselves to Use Tools" (2023) 링크: https://arxiv.org/abs/2302.04761 Toolformer: Language Models Can Teach Themselves to Use ToolsLanguage models (LMs) exhibit remarkable abilities to solve new tasks from just a few examples or textual instructions, especially at scale. They also, paradoxically, struggle with basic functionality, such as ..

모델에 데이터를 넣기 전에 거의 항상 하는 두 가지가 스케일링과 인코딩이다. 숫자의 범위를 맞추고, 글자(범주형)를 숫자로 바꾸는 작업이다. 이번 글은 이 전처리 기본기를 정리한다. 1. 스케일링이 필요한 이유 : 변수마다 값의 범위가 제각각임 - 나이는 0~80, 연봉은 0~수억 : 거리나 크기를 쓰는 모델(선형, 로지스틱 회귀, KNN, SVM, k-means 등)은 범위가 큰 변수에 쏠림 : 그래서 모든 변수를 비슷한 범위로 맞춰, 공정하게 비교되게 함 : 트리 계열(결정트리, 랜덤포레스트)은 값의 경계만 봐서 스케일링이 거의 필요 없음 2. 표준화와 정규화 : 표준화(StandardScaler) - 평균 0, 표준편차 1로 바꿈. (값 - 평균) / 표준편차 : 정규화(MinMaxSca..