News
캠퍼스 클릭
캠퍼스 소식
캠퍼스 정보
캠퍼스 마당
[한양대] 한양대 서지원 교수, 효율적인 딥러닝 모델 학습기술 개발
「MLSys」 학술대회 논문 발표, 실리콘밸리 기업 MosaicML 과 협업 추진
스크립하기 내 스크립보기 주소복사하기 프린트
0
조회 176 

한양대 서지원 교수

효율적인 딥러닝 모델 학습기술 개발

MLSys 학술대회 논문 발표, 실리콘밸리 기업 MosaicML 과 협업 추진


한양대 컴퓨터소프트웨어학부 서지원 교수 연구팀이 최근 딥러닝 모델을 효율적으로 학습하는 알고리즘을 개발하였다. 해당 기술은 딥러닝 모델 학습에서 사용되는 드롭아웃(Dropout) 알고리즘을 개선한 자이로 드롭아웃(Gyro Dropout)’ 이라는 기술로 모델의 일반화를 높이도록 학습하여 추론 정확도를 높이는 기술이다.

 

기존의 드롭아웃 알고리즘은 딥러닝 모델의 서브 네트워크들을 랜덤하게 학습하여 이들의 합집합으로 이루어진 전체 네트워크의 정확도를 높이도록 학습을 한다. 그 과정에서 각 서브 네트워크들은 한번 씩만 학습이 된다. 서 교수 연구팀은 서브 네트워크 하나의 학습 횟수를 늘리고 학습되는 서브 네트워크의 개수를 줄였을 때에 학습 효율과 일반화 성능이 높아지는 것을 확인하고, 이를 최적화하는 자이로 드롭아웃 알고리즘을 설계하였다.

 

서 교수 연구팀은 자이로 드롭아웃 알고리즘을 적용하여 알렉스넷(AlexNet), 레즈넷(ResNet) 등의 컴퓨터 비전 모델과 버트(BERT) 등의 자연어 처리 모델의 성능이 향상됨을 실험으로 밝혀냈다. 또한 자이로 드롭아웃을 적용할 때에 그래픽 처리 장치(GPU)에서 드롭아웃 되는 뉴런들의 계산을 효율적으로 생략할 수 있는 자이로 드롭아웃의 변형 알고리즘도 설계하였으며, 이를 적용하였을 때에 딥러닝 모델의 학습 속도를 최대 30% 향상시킬 수 있음을 입증했다.

 

서 교수 연구팀은 자이로 드롭아웃 알고리즘과 관련 연구 결과를 머신러닝 시스템 분야의 우수 학술대회인 MLSys에서 발표하였다. 발표 직후, 실리콘밸리 기반 스타트업 MosaicML에서 연구 결과에 관심을 보였고 협업을 제안하였다. MosaicML은 인공지능 학습을 쉽고 편리하게 수행할 수 있는 오픈소스 소프트웨어 컴포저(Composer)’와 클라우드 플랫폼을 제공하는 기업이다.

 

서지원 교수와 연구팀의 석/박사과정 학생인 이준열, 박기현 학생은 MosaicML과 협업하여 자이로 드롭아웃 알고리즘을 MosaicML의 오픈소스 시스템인 컴포저 버전 0.12에 공개하였다[1].


@송창환기자

 
기존에 사용중인 SNS계정으로 로그인하시면
해당 기사를 자신의 SNS계정으로 보낼 수 있습니다.
  
 
 
 
네티즌 의견
전체 0   아이디 작성일
 
의견쓰기
 
[안동대] 지역공익의료인력 확충을 위한 권역별 국립대학교 의과대학 설립 공동포럼 개최
[안동대] 안동대 다문화교육센터, ‘2022학년도 안동지역 청소년 진로직업체험 교육프로그램’운영
캠퍼스 소식 기사목록 보기
 
  캠퍼스 소식 주요기사
[경북과학대학교] 한국메이컵직..
[대구과학대학교] 측지정보과, ..
[영남대학교] “그 누가 아무리 ..
[대구가톨릭대학교] 대가대 ‘안..
[경북전문대학교] 총동장회 경과..
[문경대학교] 도자기공예과 ‘경..
[대구보건대학교] 창업경진대회 ..
[한양대학교] 함께한대, W-재단..
 
 
작성자
대학연합신문
unnews@hanmail.net
메일보내기
[이전] 1 2 3 4 5 [다음]
회사소개개인정보처리방침청소년보호정책제휴/고객문의FAQ기사제보명예기자신청
주식회사 위드커뮤니케이션즈 발행인 김영일 편집인 조병섭
사업자번호 504-81-78066 [사업자정보확인] [42413] 대구광역시 남구 현중로 206 3층 (대명동, 신화빌딩)
제보 및 광고, 각종문의 : 053-765-4765Fax. 053-767-4766 / 010-4733-0195
E-mail : unnews@hanmail.net 개인정보관리책임자 : 김영일 청소년보호책임자 : 김영일 등록번호 : 대구, 아00150 (등록일 2014.07.07)
Copyright 2014 (c)대학연합신문. All Rights Reserved.