주메뉴 바로가기 본문 바로가기 페이지하단 바로가기

중고장터

[챗G

페이지 정보

작성자 afht43oso 조회 1회 작성일 25-06-05 21:45

본문

[챗GPT를 이용해 제작] [헤럴드경제=김지헌 기자] 중국 빅테크(거대 정보기술기업) 화웨이가 자사 칩을 활용한 인공지능(AI) 훈련 기술을 개발했으며 이는 딥시크의 훈련법보다 효율적이라고 주장했다.홍콩 사우스차이나모닝포스트(SCMP)는 화웨이의 이런 AI 모델 설계 기술의 발전을 소개하면서 중국이 미국 기술에 대한 의존을 줄이려는 노력의 하나로 중요한 의미를 갖는다고 5일 보도했다.화웨이의 대형언어모델(LLM) 개발팀인 판구(Pangu)팀은 지난달 28일 논문저장 사이트 ‘arXiv’에 공개한 ‘판구 프로 MoE’란 논문에서 딥시크가 ‘저비용 고효율’ AI 모델 개발에 활용한 ‘전문가 혼합’(MoE·Mixture of Experts) 모델을 개선한 ‘그룹화 전문가 혼합’(MoGE·Mixture of Grouped Experts) 모델을 소개했다.MoE란 문제 해결에 필요한 최적의 전문가들만 선별해 활용하는 개념을 LLM 학습 방법에 적용한 것으로 딥시크가 엔비디아의 저사양 칩을 적게 쓰면서도 효율적인 AI 모델을 개발하는 데 중요한 역할을 했다.그러나 화웨이 판구팀은 MoE는 각 입력 토큰에 대해 활성화되는 매개변수(파라미터)의 비율이 매우 낮아 일반적 LLM보다 효율성은 뛰어나지만, 일부 전문가들이 다른 전문가들보다 훨씬 자주 활성화되는 현상이 종종 나타남에 따라 시스템 비효율성의 원인이 될 수 있다고 지적했다.이에 따라 판구팀은 논문에서 MoE보다 전문가 작업 부하의 균형을 잘 잡고 선택하는 그룹화된 전문가들의 혼합 아키텍처인 MoGE를 소개한다고 밝혔다.논문에 따르면 MoGE는 사전에 정의된 각 전문가그룹 안에서 동일한 수의 전문가들을 활성화하도록 토큰을 제약한다. MoGE가 사용한 그룹 균형 분배 전략은 전문가를 고유하고 겹치지 않는 그룹으로 분할하며 각 그룹을 특정 컴퓨팅 장치에 할당하는 방식이다.이에 따라 AI 모델 훈련이 다중 장치에 분산될 때 장치 간 계산 부하를 균형 있게 배분해 처리량을 대폭 향상할 수 있다. 특히 추론 단계에서 이런 효과가 두드러진다.아울러 화웨이는 자사의 신경망처리장치(NPU) 어센드를 활용한 MoGE 기반 희소 모델인 ‘판구 프로(Pro) MoE’를 구축했다고 밝혔다. 이 모델은 매개변수 총 720억개 가운데 토큰당 160억개가 활성화된다.판구 프로 MoE의 구성은 광범위한 시스템 시뮬레이션 연구를 통해 어센드 300I 듀 [서귀포(제주)=이데일리 박태진 기자] “우리는 플라스틱 오염의 피해자인 동시에 원인 제공자다. 그래서 이 문제의 해결자도 우리여야만 한다.” 이병화 환경부 차관이 5일 제주특별도 서귀포시 소재 제주국제컨벤션센터에서 열린 ‘2025년 세계 환경의 날’ 개막식에서 개회사를 하고 있다. (사진=환경부) 이병화 환경부 차관은 5일 제주특별자치도 서귀포시에 있는 제주국제컨벤션센터에서 열린 ‘2025년 세계 환경의 날’ 개막식에 참석해 “2025년 세계 환경의 날은 대한민국에 또 다른 숙제와 역할을 부여하고 있다”며 이같이 말했다. 세계 환경의 날은 1972년에 제정된 이후 매년 6월 5일로 지정돼 있다. 1997년 이후 28년 만에 한국에서 열린 세계 환경의 날 주제는 ‘플라스틱 오염 종식’이다.이 차관은 “플라스틱은 우리의 산업구조와 일상생활 속에 너무나 깊이 뿌리내리고 있다”며 “플라스틱은 너무나도 편리하고 경제적이기 때문”이라고 설명했다.그는 “전세계적으로 매년 4억3000만톤의 플라스틱이 생산되는데 이 중에 3분의 2가 소모품이다. 곧 쓰레기로 버려진다는 뜻”이라며 “버려진 플라스틱은 동식물의 생존을 위태롭게 하고미세플라스틱이 되어 우리 건강을 위협한다”고 지적했다. 이 차관은 ‘공동의 도전, 모두의 행동’이라는 이번 세계 환경의 날 슬로건을 언급하며 “쓰여 지는 플라스틱은 일회용이지만 버려지는 플라스틱은 영구적”이라며 “변화는 편안함의 경계를 벗어날 때 시작된다. 우리가 당장의 불편함을 조금씩만 감수한다면, 플라스틱 사용은 줄어들 수 있다”고 했다.이어 “시민들이 플라스틱 사용을 줄여나갈수록 재생원료 산업, 대체제 개발, 재활용 기술은 더 발전하게 된다”면서 “정부, 기업, 시민, 국제사회 모두 플라스틱 순환경제 전환을 위한 키-플레이어다”라고 덧붙였다.그는 “위대한 계획보다 작은 실천이 더 중요하다는 말이 있다. 플라스틱 컵 대신 텀블러를 쓰는 행동 변화 하나, 올바른 분리배출 행동 하나가 지구를 지키는 변화가 된다”면서 “여러분의 작은 행동들이 쌓여 변화를 이끌고, 플라스틱 오염 종식을 앞당길 수 있다. 플라스틱 오염이 우리를