
AI·클라우드
3B만 활성화하는 30B 모델, AI 에이전트 비용 구조를 바꿀까
AWS는 NVIDIA Nemotron 3.5 Lightning을 SageMaker JumpStart에서 배포할 수 있다고 밝혔다. 300억 개 전체 매개변수 가운데 추론 시 30억 개를 활성화하는 혼합전문가 구조와 최대 100만 토큰 문맥이 특징이다. 핵심은 최고…

AWS는 NVIDIA Nemotron 3.5 Lightning을 SageMaker JumpStart에서 배포할 수 있다고 밝혔다. 300억 개 전체 매개변수 가운데 추론 시 30억 개를 활성화하는 혼합전문가 구조와 최대 100만 토큰 문맥이 특징이다. 핵심은 최고…
이슈페이퍼 회원이 되면 매일 쏟아지는 새로운 경제 소식을 오전 8시에 빠르게 확인할 수 있습니다.
카카오로 3초 가입