Победа на республиканском хакатоне и приз в 500 тысяч теңге
Студенты Kozybayev University Максим Поляков и Оксана Леонтьева вошли в число победителей республиканского хакатона Decentrathon 6.0, который проходил одновременно в 19 городах Казахстана.Наши ребята объединились в команду KU Group и достойно представили Северо-Казахстанскую область на турнире. Для участия они выбрали технический трек Soup Kernel Challenge. «Задание было связано с искусственным интеллектом и оптимизацией обучения нейросетей. Если простыми словами, нам дали готовую языковую модель Qwen с 1,5 млрд параметров, обучение которой требовало много ресурсов видеокарты. Нужно было изменить внутренние вычисления так, чтобы модель обучалась быстрее, потребляла меньше видеопамяти, но при этом не теряла качество. Для этого мы разрабатывали собственные GPU-кернелы на языке Triton — специальные программы, которые выполняют вычисления непосредственно на видеокарте. Оптимизировали вычисление ошибок модели, математические операции внутри нейросети, работу с 4-битными весами и использование памяти», - отметил Максим Поляков. На всё это участникам было выделено 36 часов. Наши студенты исследовали существующие подходы, разрабатывали свои алгоритмы, сравнивали результаты и исправляли ошибки. При этом важно было не просто ускорить обучение, а пройти строгие технические проверки организаторов. В итоге команда KU Group заняла 1-е место в Северо-Казахстанской области по треку Soup Kernel Challenge и 41-е место среди 285 команд со всего Казахстана, набрав 73,78 балла из 100. За это молодые разработчики получили приз в размере 500 тысяч теңге. Еще из значимых результатов: ускорили обучение нейросети в 1,56 раза — время обучения сократилось примерно на 36%; почти в 13 раз снизили потребление видеопамяти— с 14 ГБ до 1,1 ГБ; при этом сохранили качество обучения и прошли все 10 обязательных технических проверок.«Самое интересное, что это не просто демонстрационный проект, а реальная инженерная оптимизация: такие технологии позволяют обучать и дообучать модели искусственного интеллекта на более доступных видеокартах, без необходимости использовать дорогостоящее оборудование», - рассказывает разработчик Максим Поляков.Отметим, что помимо учебы на 4 курсе по IT-направлению оба студента работают в Центре искусственного интеллекта и цифровой трансформации СКУ им. М. Козыбаева. Здесь они создают цифровые продукты и совершенствуют свои навыки. Поздравляем наших талантливых разработчиков с заслуженной победой!
читать далее