📄

Paper Review

아직도 GPU 하드웨어를 고려하지 않고 모델링을 하시나요?

The Case for Co-Designing Model Architectures with Hardware 논문 리뷰"

Sigrid Jin (Jin Hyung Park) | ML Backend Engineer

Model Architectures

GPU

Hyper parameter

ModernBERT: 최신 LLM 기법으로 BERT를 개선할 수 있을까?

2024년 12월 릴리즈된 ModernBERT를 통해 새로운 인코더 모델의 백본에 대해 알아봅니다

Sigrid Jin (Jin Hyung Park) | ML DevRel Engineer

Embedding

KoGEC: 사전 학습된 번역 모델을 활용한 한국어 문법 오류 교정

 한국어 문법 오류 교정(KoGEC) 모델 연구 경험을 공유합니다.

김태은/  AI · ML Research Intern

GEC

NLLB

ReSpect

사람과의 Interaction을 통해 Agent를 점점 똑똑하게 만드는 방법

박우명 / CDO & Head of Research

LLM

Interaction

모델의 평가 능력을 평가하기

LLM evaluation 능력을 평가할 수 있는 JudgeBench 제작 방법론 및 실험 결과 소개

박우명 / CDO & Head of Research

LLM-as-a-Judge

Benchmark

학습 데이터를 고르는 효과적인 방법은?

학습 데이터 선택 방법 분석

박우명 / CDO & Head of Research

Tuning

LLM

Data Selection

LLM의 평가 능력을 올리기 위한 방법들

LLM의 판단을 스스로 한번 더 평가한 'Meta-Rewarding'을 활용한 새로운 학습 방법 소개

박우명 / CDO & Head of Research

LLM

Prompting

LLM-as-a-Judge

LLM을 합쳐보자: 모델 병합 기법에 대한 고찰과 실험

LLM 모델 병합 기법에 대한 소개

백상원 / ML Researcher

LLM

large language model

Research

멀티모달 문서 검색을 위한 Embedding 모델

VLM을 활용하여 Multi-modal Embedding 만드는 방법 소개

박우명 / CDO & Head of Research

Multimodal

Embedding

Prompt Recovery for LLM

LLM의 결과로부터 Prompt를 유추하는 방법

박우명 / CDO & Head of Research

LLM

Prompting

GPT를 이용한 문법 오류 교정(GEC) 모델

문법 오류 교정

송영숙/ML Researcher

GPT

GEC

Startups

LLM

Grammatical Error

LLM의 추론 능력 높이기 : Self Discover

풀이 방법을 먼저 설계한 후 실제 문제를 푸는 2단계 방식으로 추론 능력 향상

박우명 / CDO & Head of Research

LLM

Prompting

Reasoning

LLM은 오류를 스스로 검출하고 수정할 수 있을까?

초거대 언어모델이 오류를 검출하고 답변을 수정할 수 있는지에 대한 실험

박우명 / CDO & Head of Research

LLM

Self Correction

Toward MoE with Pretrained LLM

효율적인 MoE 학습 방법론 소개

박우명 / CDO & Head of Research

LLM

Mixture of Experts

Finetuning

Red Teaming Language Models to Reduce Harms

비폭력, 비윤리적 출력을 검증할 수 있는 데이터 세트

송영숙 / ML Researcher

Reduce Harms

Generation

LLM을 활용하여 최고의 Text Embedding 만들기

초거대 언어 모델을 활용한 텍스트 임베딩

박우명 / CDO & Head of Research

Embedding

MTEB

LLM

data

Code를 통하여 LLM의 추론 능력을 높일 수 있을까?

코드를 통한 거대언어모델의 추론 능력 향상

박우명 / CDO & Head of Research

Prompting

Tuning

Reasoning

Super-NaturalInstructions

Super-NaturalInstructions(SuperNI) 논문 및 데이터 세트 소개

박우명 / CDO & Head of Research, 송영숙 / ML Researcher

Instruction

LLM

dataset

Super-NaturalInstructions

자동으로 최적의 Prompt를 생성하기

최적의 프롬프트 방법론을 소개합니다.

박우명 / CDO & Head of Research

Prompting

AutoPrompt

LLM은 스스로 답변의 위험성을 판단할 수 있을까?

초거대 언어 모델의 답변 위험성 판단과 관련된 논문 소개

박우명 / CDO & Head of Research

Prompting

Alignment

LLM

프롬프팅으로 사실 확인하기(Fact Verification)

초거대 언어모델의 발화가 사실인지 아닌지를 확인하는 방법론과 관련된 논문을 소개합니다.

박우명 / CDO & Head of Research, 김덕현 / Head of Development

Prompting

Fact Verification

프롬프팅을 통한 LLM의 추론 능력 향상

초거대언어모델의 추론 능력 향상을 위한 프롬프팅 방법론

박우명 / CDO & Head of Research

Prompting

Tuning

LLM

Reasoning

효과적인 프롬프팅(Prompting) 방법론 소개

효과적인 프롬프팅(Prompting) 방법론 소개

박우명 / CDO & Head of Research

Prompting

Tuning

LLM

MTEB 상위권 방법론들

MTEB 상위권 방법론 소개

박우명 / CDO & Head of Research

MTEB

Embedding

Benchmark