���f�B�A

���_���\��NVIDIA�ɒ��ށ@AI�`�b�v�́u�ȃG�l�v�������̎����F�uMLPerf�v�̍ŐV�X�R�A�����J�i1/4 �y�[�W�j

���_�x���`�}�[�N�uMLPerf�v�̍ŐV���E���h�̃X�R�A�����J���ꂽ�B���̌��ʂ���́AAI�p�v���Z�b�T�̐V���ȋ����̎����A���\���̂��̂����u�d�͌����v�Ɉڂ�‚‚��邱�Ƃ��ǂݎ���B

» 2024�N09��02�� 11��30�� ���J
[Sally Ward-Foxton�CEE Times]

�@AMD�́A���_�x���`�}�[�N�uMLPerf�v�̍ŐV���E���h�ɁA���Ђ̃f�[�^�Z���^�[�pGPU�̃t���O�V�b�v���i�ł���uAMD Instinct MI300X�i�ȉ��AMI300X�j�v�̌��ʂ����߂Ē�o�����B���Ђ́A�s�ꃊ�[�_�[�ł���NVIDIA�̌�����n�[�h�E�F�A�uH100�^H200�v�ɕC�G���錋�ʂ�B���������A�����I�ɂ�NVIDIA���킸���ȍ��ŏ��������B

�@NVIDIA�́A�J�i�_�̃X�^�[�g�A�b�v��Ƃł���Untether�����������󂯂��BUntether�͓��Џ��ƂȂ�MLPerf�x���`�}�[�N���I���A���Ђ́uspeedAI�v�A�N�Z�����[�^�[���uResNet-50�v���[�N���[�h�̓d�͌����ɂ����āANVIDIA�̂��܂��܂ȃ`�b�v�����������Ƃ��������BGoogle��AI�����A�N�Z�����[�^�[�`�b�v�uTensor Processing Unit�iTPU�j�v�̑�6����ƂȂ�uTrillium�v�̌��ʂ��o���AIntel�́uGranite Rapids CPU�v������I�����B

AMD�́uMI300X�v�̃X�R�A�����߂Ē�o

�@AMD�́ANVIDIA�̃f�[�^�Z���^�[����GPU�ɑ΍R����MI300X�̌��ʂ�����o���A�uLlama2-70B�v�ł̐��_�ɂ�����V���O���`�b�v�����8�`�b�v�V�X�e���̐��\���������B�V���O���`�b�v��MI300X�́A�T�[�o���[�h��2520.27�g�[�N��/�b�itoken/s�j�A�I�t���C�����[�h��3062.72�g�[�N��/�b�̐��_���”\�ŁA8�`�b�v�V�X�e����MI300X�́A�T�[�o���[�h��21028.20�g�[�N��/�b�A�I�t���C�����[�h��23514.80�g�[�N��/�b�����s�ł���B���̐����́A�V�X�e���T�C�Y�Ԃ̃X�P�[���r���e�B�����Ȃ蒼���I�ł��邱�Ƃ������Ă���i�I�t���C���V�i���I�ł̓o�b�`�����ɂ���ăX���[�v�b�g���ő剻�ł��邪�A������T�[�o�V�i���I�ł̓��C�e���V�̐����ɑΉ��������A���^�C���N�G�����V�~�����[�g����j

�@���̌��ʂ́ANVIDIA��8�`�b�v�V�X�e��H100�i80GB�j�œ������[�N���[�h�����������ꍇ�̌��ʂƔ��ɂ悭���Ă���i����3�`4���j�BNVIDIA��H200�i141GB�j�i�����I�ɁA��葽���̍����������𓋍ڂ���H100�j�Ɣ�r����ƁAAMD��30�`40���x���Ȃ��Ă���B

�@AMD�́A12�`�b�v���b�g��MI300X GPU��NVIDIA��H100�ɒ��ڋ������鐻�i�ƒu�t���Ă��āA�����NVIDIA�̎s��Ɛ�ɒ��ލł��L�]�ȏ��p���i�̈�‚Ƃ��čL�����҂���Ă���BMI300X�́ANVIDIA��H100�����H200����HBM�i�L�ш敝�������j�̗e�ʂƑш敝���傫���iH200��141GB�i�M�K�o�C�g�j��4.8T�o�C�g/�b�iTB/s�j�ł���̂ɑ΂��āAMI300X��192GB��5.2TB/s�j�A���̍��͑�K�͌��ꃂ�f���iLLM�j�ł̐��_���ʂɌ����ɕ\���Ǝv����BAMD�́A�u192GB��1�`�b�v��Llama2-70B���f���S�̂�KV�iKey Value�j�L���b�V����ێ�����̂ɏ\���ȗe�ʂŁA����ɂ��A���f���𕡐���GPU�ɕ������邱�Ƃɂ��l�b�g���[�N�I�[�o�[�w�b�h������ł���v�Əq�ׂĂ���B����ɁA�uMI300X�́AH100�^H200�����킸����FLOPS�������BH100�Ɠ����ŁAH200�Ɍ�������Ă��邱�Ƃ́AAMD�t�@�����������]�����邩������Ȃ����A�����̏����X�R�A�́A�\�t�g�E�F�A�̂���Ȃ�œK���ɂ���āA���̃��E���h�ŊԈႢ�Ȃ����P�����v�Ƃ����������B

�@�\�t�g�E�F�A�ʂł́AAMD�́A�u�R���|�[�U�u���J�[�l�����C�u�������L�͈͂Ɏg�p���āA�v���t�B���A�e���V������FP8�f�R�[�h�y�[�W�h�A�e���V�����A���܂��܂ȗZ���J�[�l�������Ƀp�t�H�[�}���X�N���e�B�J���ȃJ�[�l�����쐬�����v�Əq�ׂĂ���B�܂��A�f�R�[�h�X�P�W���[�����O�̍������ƃv���t�B���o�b�`�����̉��P�̂��߂ɃX�P�W���[�������P�����Ƃ����B

�@AMD��MI300X�Ƌ��ɁA������i��5����j�uEPYC�v�v���Z�b�T�ł���uTurin�v����I�����B��4����EPYC�v���Z�b�T�ł���uGenoa�v�𓋍ڂ�������V�X�e���Ɣ�r���āA�T�[�o���[�h��4.7���A�I�t���C�����[�h��2.5���Ɛ��\���P�͂킸���ł͂��邪�ATurin�x�[�X�̃V�X�e����DGX-H100�����኱���������邱�Ƃ��ł����BAMD��Turin CPU�͂܂��s��ɓ�������Ă��Ȃ��B

AMD́uMI300XṽXRA AMD�́uMI300X�v�̃X�R�A�m�N���b�N�Ŋg��n �o���FAMD
�@�@�@�@�@�@ 1|2|3|4 ���̃y�[�W��

Copyright © ITmedia, Inc. All Rights Reserved.

'; } else { return false; } recoBox.innerHTML = html; return recoBox; }; // �֘A�L�����擾���č�����g������i�����L���j var setRecomend = function(type) { // �L�[���[�h�����Ƃ�html ���擾 var wp = setRecomendItem(); if(!wp){ cx_count(test_id + '_default_imp','impression'); console.log(test_id + '_default_imp','impression'); return false; } // ���X�g��n����html���쐬 var recoBox = wplistHtml(wp,type); // target ���擾 var target; if(d.getElementById('endlinkConnection')){ console.log('�֘A�L��'); target = d.getElementsByClassName('endlink')[0]; } else { console.log('indexlink'); target = d.getElementById('colBoxIndexlink'); } // target �Ƀ��R�����h������ target.parentNode.insertBefore(recoBox, target); cx_count(test_id + '_' + wp.group + '_imp','impression'); console.log(test_id + '_' + wp.group + '_imp','impression'); // a �^�O���擾���� var atags = recoBox.getElementsByTagName('a'); for (var j=0; j 0) { var box_list = d.getElementsByClassName('cmsBodyBox'); for (var i=0; i
'; footer = '
'; html = header + html + footer; document.write(html); } })();

RSS�t�B�[�h

����SNS

EE Times �C�O�l�b�g���[�N

�C�O��g�T�C�g

All material on this site Copyright © ITmedia, Inc. All Rights Reserved.
This site contains articles under license from AspenCore LLC.