Global
에스리, 인프라 현대화 부문 수상자로 이탈리아 철도공사 선정
이탈리아 철도공사 레테 페로비아리아 이탈리아나, 에스리 사용자 콘퍼런스서 수상

이탈리아 철도공사 레테 페로비아리아 이탈리아나(Rete Ferroviaaria Italiana, 약칭 ‘RFI’)는 지난해 위치 정보 분야의 세계적 기업인 에스리(Esri)의 지리 정보 시스템(GIS) 기술을 활용해 애플리케이션을 구축했다.
‘스테이션랜드(StationLAND)’라는 이 애플리케이션은 마을과 도시에 위치한 기차역에 대한 연결성을 높여 기차역이 지역사회의 중추 역할을 할 수 있도록 설계됐다. 스테이션랜드는 기차역이 기능하는 방식, 이유 및 원활한 운영 방법에 대한 이해를 높인다.
스테이션랜드는 고도로 구체적인 요구 사항을 해결할 수 있도록 만들어졌다. 애플리케이션 구축팀을 이끈 루이지 콘테스타빌레(Luigi Contestabile) RFI 시설 총괄은 “철도는 이탈리아에서 가장 효과적으로 운영되는 대표적 시스템이지만 기차역은 낙후돼 있었다”며 “이 때문에 RFI는 기술을 활용해 기차역과 지역사회를 더욱 효과적으로 연결할 방법을 이해하고 기차 여행을 더 활성화할 방법을 찾고자 했다”고 밝혔다. 그는 “프로젝트를 통해 기차역의 중심성을 구현하는 것은 우리에게 필요한 지속 가능한 복합 방식을 개발하기 위한 토대”라고 설명했다.
에스리는 ‘에스리 사용자 콘퍼런스(Esri User Conference)’에서 RFI에 ‘인프라 및 공공 모빌리티 부문 우수 혁신상’을 수여할 예정이다. 혁신적 기술을 활용해 현대의 모빌리티 문제에 대처하고 획기적 프로젝트를 통해 기차를 이탈리아 이동 수단의 핵심으로 만든 RFI의 성과를 기리기 위함이다.
테리 빌스(Terry Bills) 에스리 글로벌 운송 산업 부문 이사는 “스테이션랜드는 스마트 운송에 에스리 기술이 가장 포괄적으로 적용된 사례”라며 “RFI가 스테이션랜드를 구축하는데 에스리를 선택해 대단히 기쁘다”고 말했다. 그는 “이는 궁극적으로 국가 차원으로 확장된 스마트 시티 애플리케이션”이라며 “철도 업계에서 이런 방식으로 GIS를 활용한 것은 전례가 없었다”고 강조했다.
Global
온세미, 자동차 부문 성장성 확장으로 4분기 21억 360만 달러 매출 달성
온세미는 지난 4분기 21억 360억 달러 매출을 달성했으며, 연간 기준 매출 83억 달러로 예상치를 상회했다. 이는 각각 전년 동기 대비 14%, 24% 성장한 수치다.
2022 회계연도 기준 매출 83억 달러, 전년 대비 24% 증가
온세미(ONsemi)가 2022 회계연도 연간 및 4분기 실적을 발표했다. 온세미는 지난 4분기 21억 360억 달러 매출을 달성했으며, 연간 기준 매출 83억 달러로 예상치를 상회했다. 이는 각각 전년 동기 대비 14%, 24% 성장한 수치다.
특히 주목되는 부분은 4분기 자동차 부문 매출이 9억 8,900만 달러를 기록했다. 이는 전년 동기 대비로 54%의 큰 폭 성장세를 보여준다.
온세미 CEO인 Hassane El-Khoury는 “온세미는 2022년 탁월한 성과를 달성했다. 2022년 매출은 24% 증가했다. 비일반회계기준 영업이익은 차량 전기화, 첨단 운전자 지원 시스템(ADAS), 대체 에너지, 산업 자동화 등 세간의 메가 트렌드에 초점을 맞추어 매출보다 4배 수준으로 성장했다.”고 말했다.
Global
엔비디아, 대규모 언어 모델 AI 플랫폼 ‘네모 메가트론’ 프레임워크 업데이트 발표
엔비디아 AI 플랫폼 네모 메가트론, A100 GPU 사용한 컨테이너형 프레임워크

엔비디아(CEO 젠슨 황)가 대규모 언어 모델(LLM)의 크기와 복잡성이 지속적으로 급증함에 따라 최대 30%의 훈련 속도 향상을 제공하는 네모 메가트론(NeMo Megatron) 프레임워크의 업데이트를 발표했다.
이번 업데이트는 두 가지 선구적인 기술과 여러 GPU에서 LLM 훈련을 최적화하고 확장하는 하이퍼 파라미터(hyper parameter) 도구를 포함한다. 이를 통해 엔비디아 AI 플랫폼으로 모델을 훈련하고 구축할 수 있는 새로운 기능을 제공한다.
1,760억 개의 파라미터(parameter)를 가진 세계 최대 오픈 사이언스, 오픈 액세스 다국어 언어 모델인 블룸(BLOOM)은 최근 엔비디아 AI 플랫폼에서 훈련돼 46개 언어와 13개 프로그래밍 언어로 텍스트 생성을 가능하게 했다. 또한 엔비디아 AI 플랫폼은 5,300억 개의 파라미터를 포함하는 가장 강력한 변환기 언어 모델인 메가트론-튜링 NLG 모델(MT-NLG)을 지원한다.
LLM의 최신 발전
LLM은 텍스트에서 학습하는 최대 수조 개의 파라미터를 포함하는 오늘날 가장 중요한 첨단 기술 중 하나다. 하지만 이를 개발하려면 심층적인 기술 전문 지식, 분산된 인프라, 전체 스택 접근 방식이 필요해 비용과 시간이 많이 든다.
그러나 실시간 콘텐츠 생성, 텍스트 요약, 고객 서비스 챗봇, 대화형 AI 인터페이스를 위한 질문과 답변을 발전시키는 데 있어 큰 이점을 갖는다.
AI 커뮤니티는 LLM을 발전시키기 위해 메가트론(Megatron)-LM, 에이펙스(Apex), 그리고 기타 GPU 가속 라이브러리를 포함하는 엔비디아 AI 플랫폼을 기반으로 하는 마이크로소프트 딥스피드(Microsoft DeepSpeed), Colossal-AI, 허깅 페이스 빅사이언스(Hugging Face BigScience), 페어스케일(Fairscale) 같은 도구의 혁신을 이어가고 있다.
엔비디아는 오늘날 엔비디아 AI 플랫폼에 대한 새로운 최적화를 통해 스택 전체에서 기존의 많은 문제점을 해결하며, AI 커뮤니티와 협력해 모든 사람이 LLM의 기능에 액세스할 수 있기를 기대하고 있다.
LLM 구축 시간 단축
네모 메가트론의 최신 업데이트는 220억에서 1조 파라미터에 이르는 크기의 GPT-3 모델 훈련 속도를 30% 향상시킨다. 이는 1,024개의 엔비디아 A100 GPU를 사용해 1,750억 개의 파라미터 모델에 대한 훈련을 24일 만에 수행하도록 한다. 즉, 결과 도출 시간을 10일 또는 GPU 컴퓨팅 시간으로 약 250,000 시간 단축할 수 있다.
네모 메가트론은 빠르고 효율적이며 사용하기 쉬운 엔드 투 엔드 컨테이너형 프레임워크이다. 데이터 수집, 대규모 모델 훈련, 업계 표준 벤치마크에 대한 모델 평가, 지연 시간(레이턴시)과 처리량 성능에 대한 최첨단 추론이 가능하다.
이를 통해 LLM 훈련과 추론을 다양한 GPU 클러스터 구성에서 쉽게 재현할 수 있다. 현재 얼리 액세스 고객에게 엔비디아 DGX 슈퍼POD(SuperPOD), 엔비디아 DGX 파운드리(Foundry), 마이크로소프트 애저(Microsoft Azure) 클라우드 플랫폼을 제공한다. 또한 다른 클라우드 플랫폼에 대한 지원도 제공될 예정이다.
더불어 사용자에게 엔비디아 가속 인프라의 실습 랩 카탈로그에 대한 단기 액세스를 제공하는 무료 프로그램인 엔비디아 런치패드(LaunchPad)에서 기능을 체험할 수 있다.
LLM 훈련 속도를 높이는 두 가지 새로운 기술
LLM 훈련을 최적화하고 확장하는 업데이트에 포함된 두 가지 새로운 기술은 시퀀스 병렬화(SP)와 선택적 활성화 재계산(SAR)이다.
시퀀스 병렬화(SP)는 이전에 병렬화 되지 않은 변환기 레이어의 영역이 시퀀스 차원을 따라 독립적이라는 점을 인식해 텐서 수준 모델 병렬화를 확장한다.
시퀀스 차원을 따라 이러한 레이어를 분할함으로써 텐서 병렬 장치 전반에 걸쳐 컴퓨팅 및 가장 중요한 활성화 메모리를 분산할 수 있다. 활성화가 분산되므로 재계산 대신 역방향 패스에 대해 더 많은 활성화를 저장할 수 있다.

선택적 활성화 재계산은 다른 활성화가 재계산하는 데 다른 수의 작업이 필요하다는 점을 인식한다. 이를 통해 메모리 제약으로 인해 활성화의 전부가 아닌 일부를 재계산해야 하는 경우를 개선한다.
전체 변환기 레이어를 검사하고 재계산하는 대신, 상당한 양의 메모리를 차지하지만 재계산하는 데 계산 비용이 많이 들지 않는 각 변환기 레이어의 부분만 검사하고 재계산할 수 있다.
훈련과 추론을 위한 새로운 하이퍼 파라미터 도구
분산된 인프라에서 LLM 모델 구성을 찾는 과정에는 시간이 많이 소요된다. 네모 메가트론은 코드 변경 없이 최적의 훈련과 추론 구성을 자동으로 찾는 하이퍼 파라미터 도구를 도입한다. LLM은 처음부터 추론을 위해 수렴하도록 훈련되어 효율적인 모델 구성을 검색하는데 시간을 낭비하지 않는다.
데이터 병렬화, 텐서 병렬화, 파이프라인 병렬화, 시퀀스 병렬화, 마이크로 배치 크기, 활성화 체크포인트 레이어 수(선택적 활성화 재계산 포함)와 같은 고유한 파라미터에 대한 경험적 그리드 검색을 사용하여 처리량이 가장 우수한 구성을 찾는다.
NGC의 컨테이너에 대한 엔비디아 테스트의 하이퍼 파라미터 도구를 사용하면 24시간 이내에 175B GPT-3 모델에 대한 최적의 훈련 구성에 도달한다. 전체 활성화 재계산을 사용하는 일반적인 구성과 비교할 때 처리 속도가 20-30% 향상됐다. 더불어 최신 기술을 사용해 파라미터가 20B 이상인 모델의 처리 속도를 추가로 10-20% 향상시킨다.
-
Products8개월 ago
에머슨, 수소 연료 전지 수명 연장과 효율 극대화 제공
-
News2년 ago
유니버설 로봇, “국내 자동차, 전기전자 산업에 집중할 것”
-
Features2년 ago
현대자동차그룹, 소형 모빌리티 플랫폼 ‘모베드(MobED)’ 공개
-
Global2년 ago
온세미-이모션3D, 혁신적인 운전자 및 탑승자 모니터링 시스템 설계 함께한다
-
Products2년 ago
DELO의 UV 접착제, 증강 현실 HUD의 홀로그래픽 포일 통합성 향상
-
Global2년 ago
인피니언, 혁신적인 소스-다운 기술을 적용한 OptiMOS™ 전력 MOSFET 출시
-
Global2년 ago
NXP, 업계 최초 보안 트라이 라디오 디바이스 발표
-
Policy2년 ago
충전소에서 직접 생산한 전기로 전기차를 충전한다