SionicAI Ultrathink
사이오닉에이아이 기술 블로그
업무 에이전트가 흩어진 맥락을 연결해 개인의 자율성과 팀의 속도를 함께 지키는 방식을 소개합니다.
시험한 입력 구성에서 token 474가 sequence를 시작할 때 Layer 2 activation이 2.95M까지 커져 FP16 embedding이 NaN이 되는 경로를 추적합니다.
5개 hidden layer를 조건으로 DSpark를 500K post-training하고 472.8 tok/s까지 측정한 과정.
장문 Prefill이 Decode를 멈추던 원인을 추적하고, 역할 분리와 KV Cache 전송으로 ITL p95를 2,873ms에서 29.2ms로 줄인 과정.
MTEB 한국어·일본어 리트리벌 벤치마크 1위 임베딩 모델의 학습 데이터 구성부터 하드 네거티브 마이닝 전략까지.
GLM-5.2 753B 모델을 SASS 수준에서 최적화해서 초당 600~1000 토큰 생성하는 법.
DGX B300의 ConnectX-8 800G 포트 8개를 활용해 네트워크 장비 없이 소규모 클러스터를 구성합니다.
AI가 생성한 코드가 컨테이너 내부에서 실행될 때, 우리는 어디까지 불안해해야 하고 무엇을 막아야 할까요?
270개 질문 벤치마크에서 STORM Parse가 20%p 이상 높은 정확도를 보인 이유와 VLM 기반 문서 파싱의 영향.
사이오닉 기술 블로그의 정보들을 그래프화해본 화면이에요
