💻

Hands-on

GPU 커널 새로 짜서 GLM-5.2 속도 10배 올리기

GPU 커널 새로 짜서 GLM-5.2 속도 10배 올리기

고석현 / CEO

MLOps

LLM

GPU

스위치 없이 B300 클러스터 구성하기

DGX B300에는 ConnectX-8 800G 포트가 8개 들어갑니다. 이 포트를 잘 쓰면 네트워크 장비 없이도 100억 원 정도 예산 안에서 소규모 클러스터를 묶는 일이 가능합니다.

고석현 / CEO

MLOps

에이전트 시대에 꼭 필요한 컨테이너 샌드박싱 전략

사람만 코드를 실행하던 시대가 끝났습니다. n8n이나 Dify 같은 AI 워크플로우 빌더에서 Code 노드가 임의 코드를 돌리고, AI 에이전트는 터미널에서 직접 명령어를 칩니다. AI가 생성한 코드, 사용자가 주입한 프롬프트가 컨테이너 내부에서 실행될 때, 우리는 어디까지 불안해해야 하고 무엇을 막아야 할까요?

송명하, ML/DevOps Engineer

DevOps

Qwen 3 (큐웬 3) MoE Upscaling 전략

최신 AI 모델 큐웬3(Qwen3)의 핵심은 Mixture-of-Experts(MoE) 구조에 있습니다. 하지만 MoE의 성능을 최대화하려면 단순히 자주 선택되는 전문가만 쓰는 것이 아닌, 실제로 AI 출력 품질에 기여하는 전문가를 정확히 찾아 활용해야 합니다. 전문가 수를 최적화하고, 전문가 간 협력을 극대화하는 사이오닉의 혁신적인 접근법을 만나보세요.

Sigrid Jin (Jin Hyung Park) / DevRel Engineer

Mixture of Experts

Qwen3

큐웬3

[사이오닉 Spring AI 시리즈 2] Storm Platform으로 쉽게 구축하는 AI 에이전트

Spring AI와 Storm Platform을 이용하여 AI Agent (에이전트) 를 쉽게 구현해보는 방법에 대해 알아봅니다.

조하담 / Backend Engineer

AI Service

Spring AI

작은 청크 검색 문제를 해결하는 Contextual BM25F 전략 엿보기

RAG 검색 시 작은 청크 환경에서 기존 BM25가 겪는 한계를 극복하는 Contextual BM25F 전략의 핵심 원리와 적용 사례를 가볍게 살펴봅니다.

Sigrid Jin (Jin Hyung Park) / ML DevRel Engineer

BM25F

Keyword Search

망 밖은 위험 해! 폐쇄망에서 Docker 이미지를 날렵하게 관리하는 법

Docker 이미지가 어떤 구조로 이루어져 있고 레이어 단위의 캐싱이 어떻게 동작하는지 간략히 짚어보고, 폐쇄망 환경에서 효율적으로 증분 배포할 수 있는 전략에 대해 살펴봅니다.

송명하 / MLOps Engineer

Kubernetes

Docker

Ops

MLOps

DevOps

[Sionic Llama 4 Token Editor] 라마 4는 한국어에 가장 친화적인 오픈소스 모델입니다

Sionic AI에서 Llama 4의 토큰 분포를 분석하였고, 해당 코드를 오픈소스로 공개 합니다.

박진형 (Sigrid Jin) / DevRel Engineer

Llama4

Llama

Transformer

tokenizer

NLP

[사이오닉 Spring AI 시리즈 1] AI 나라에 봄이 찾아왔어요

Spring AI로 다양한 LLM을 유연하게 연결하고, 실습을 통해 Open AI Chat API를 만들어봅시다!

조하담 / Backend Engineer

Spring AI

[Sionic MCP 시리즈 1] Model Context Protocol을 이용하여 IntelliJ 와 코딩해보자!

최병현 (Dan) / Backend Engineer

AI Service

TDD를 통해 ModernBERT 밑바닥부터 이해하기

유닛 테스트를 작성하면서 최신 임베딩 및 리랭커 모델의 근간인 ModernBERT의 구현체를 이해하여 봅시다.

Sigrid Jin (Jin Hyung Park) | ML DevRel Engineer

Model Architectures

Encoding

문서 기반 Q&A: RAG로 GPT를 더 똑똑하게 쓰는 방법

이 아티클에서는 RAG의 기본 개념과 사용하는 이유, 코드 기반의 가장 간단한 RAG 실습을 다룹니다.

송영숙 /ML research · 정책총괄

RAG

BGE-M3 모델 Dense, LayerNorm만으로 처음부터 구현하기

BGE-M3 다국어 임베딩 모델의 구조와 TensorFlow Keras 구현 방법에 대해 상세히 다룹니다.

고석현 / CEO

BGE-M3

Transformer

NLP

TensorFlow

Keras

CUDA C 수준에서 한국어 토크나이저 구현

한국어 토크나이저 처리

고석현 / CEO

OOV

CUDA

tokenizer

Encoding

지극히 사적인 나만의 LLM, 가질 수 있을까? [2편 - WebGPU Build & Run]

개인의 쓰임에 맞춘 초거대 언어 모델 활용

김덕현 / Head of Development

LLM

Generation

WebAssembly

WebGPU

Vector Database 구축 실습

Vector Database 구축 실습

송명하 / MLOps Engineer

Vector Database

NLP

지극히 사적인 나만의 LLM, 가질 수 있을까? [1편 - 파인튜닝]

초거대 언어모델에 학습시킨 내 데이터로 나에게 최적화된 일을 시도해보자.

박진형 (Sigrid Jin) / Software Engineer

Finetuning

Llama

LLM

WebGPU를 통한 private 생성 AI의 Hybrid Inference

WebGPU를 통한 개인화 생성 인공지능의 추론 방법론 소개

고석현 / CEO

WebGPU

Hybrid Inference