AI 동아리: 프로젝트 EPT

LLM의 접근 장벽을 부수고, 누구나 접근 가능한 AI 구현하기 (현재 인원 3명, 최대 약 10명)

GPT, Gemini, Claude와 같은 LLM 챗봇 서비스는 이제 우리 생활에 없어선 안 될 필수요소입니다. 그러나 LLM 추론에는 막대한 전력과 물, 비용을 필요로 하여 결과적으로 막대한 비용이 발생합니다. 이를 해결하기 위해, 본 동아리는 효율성 우선 토큰 혼합기(Efficiency Prioritized Token-mixer), 일명 EPT라 불리는 모델을 제안합니다! EPT는 이름이 시사하듯 효율성을 그 어떤 요소보다 최우선 과제로 삼은 모델로서, GPT-5.3, Gemini 3.1 Pro, Claude Opus 4.6과 같은 초대형 모델의 비용 한계를 타파하고, 작고 가벼운 특징으로 클라우드부터 우리의 스마트폰과 랩탑에 이르기까지 기기와 성능을 막론하고 다양하게 활용 가능한 모델을 지향합니다. 또한 EPT는 범용적 성능을 유지하면서도 어느 정도 교육 특화성을 띔으로써, 비용 문제로 그동안 LLM 사용이 어려웠던 교육 현장에서도 AI의 뛰어난 역량을 활용한 효율적이고 미래지향적인 교육을 가능하게 만듭니다. 이로 말미암아 본 동아리에선 실제 배포를 목적으로 EPT 시리즈의 1세대, EPT-I 모델을 개발합니다! EPT-I은 추론과 비추론 모드 양쪽을 지원하며, 동시에 Claude Opus 4.6과 Gemini 3.1 Pro의 데이터를 통해 소규모에서도 우수한 추론 역량을 탑재하는 것이 특징입니다. AP, SAT, IB 등의 희소한 교육 과정 데이터를 확보하여 교육에 보다 더 도움을 줄 수 있습니다. EPT-I은 TPU v4-64 클러스터에서 학습될 예정이며, 트랜스포머의 대체제로서 RWKV 아키텍처를 활용하고, 30억개에 불과한 적은 총합 매개변수 개수를 통해 메모리 부담이 적도록 합니다. AI와 언어 모델에 관심이 많고, 우리만의 값싸고 똑똑한 모델을 만드는 데 기여하고 싶은 학생이라면 적극 환영입니다.