���_�x���`�}�[�N�uMLPerf�v�̍ŐV���E���h�̃X�R�A�����J���ꂽ�B���̌��ʂ���́AAI�p�v���Z�b�T�̐V���ȋ����̎����A���\���̂��̂����u�d�͌����v�Ɉڂ���邱�Ƃ��ǂݎ���B
�@AMD�́A���_�x���`�}�[�N�uMLPerf�v�̍ŐV���E���h�ɁA���Ђ̃f�[�^�Z���^�[�pGPU�̃t���O�V�b�v���i�ł���uAMD Instinct MI300X�i�ȉ��AMI300X�j�v�̌��ʂ����߂Ē�o�����B���Ђ́A�s�ꃊ�[�_�[�ł���NVIDIA�̌�����n�[�h�E�F�A�uH100�^H200�v�ɕC�G���錋�ʂ�B���������A�����I�ɂ�NVIDIA���킸���ȍ��ŏ��������B
�@NVIDIA�́A�J�i�_�̃X�^�[�g�A�b�v��Ƃł���Untether�������������BUntether�͓��Џ��ƂȂ�MLPerf�x���`�}�[�N���I���A���Ђ́uspeedAI�v�A�N�Z�����[�^�[���uResNet-50�v���[�N���[�h�̓d�͌����ɂ����āANVIDIA�̂��܂��܂ȃ`�b�v�����������Ƃ��������BGoogle��AI�����A�N�Z�����[�^�[�`�b�v�uTensor Processing Unit�iTPU�j�v�̑�6����ƂȂ�uTrillium�v�̌��ʂ��o���AIntel�́uGranite Rapids CPU�v������I�����B
�@AMD�́ANVIDIA�̃f�[�^�Z���^�[����GPU�ɑR����MI300X�̌��ʂ�����o���A�uLlama2-70B�v�ł̐��_�ɂ�����V���O���`�b�v�����8�`�b�v�V�X�e���̐��\���������B�V���O���`�b�v��MI300X�́A�T�[�o���[�h��2520.27�g�[�N��/�b�itoken/s�j�A�I�t���C�����[�h��3062.72�g�[�N��/�b�̐��_���\�ŁA8�`�b�v�V�X�e����MI300X�́A�T�[�o���[�h��21028.20�g�[�N��/�b�A�I�t���C�����[�h��23514.80�g�[�N��/�b�����s�ł���B���̐����́A�V�X�e���T�C�Y�Ԃ̃X�P�[���r���e�B�����Ȃ蒼���I�ł��邱�Ƃ������Ă���i�I�t���C���V�i���I�ł̓o�b�`�����ɂ���ăX���[�v�b�g���ő剻�ł��邪�A������T�[�o�V�i���I�ł̓��C�e���V�̐����ɑΉ��������A���^�C���N�G�����V�~�����[�g����j
�@���̌��ʂ́ANVIDIA��8�`�b�v�V�X�e��H100�i80GB�j�œ������[�N���[�h�����������ꍇ�̌��ʂƔ��ɂ悭���Ă���i����3�`4���j�BNVIDIA��H200�i141GB�j�i�����I�ɁA��葽���̍����������𓋍ڂ���H100�j�Ɣ�r����ƁAAMD��30�`40���x���Ȃ��Ă���B
�@AMD�́A12�`�b�v���b�g��MI300X GPU��NVIDIA��H100�ɒ��ڋ������鐻�i�ƒu�t���Ă��āA�����NVIDIA�̎s��Ɛ�ɒ��ލł��L�]�ȏ��p���i�̈�Ƃ��čL�����҂���Ă���BMI300X�́ANVIDIA��H100�����H200����HBM�i�L�ш敝�������j�̗e�ʂƑш敝���傫���iH200��141GB�i�M�K�o�C�g�j��4.8T�o�C�g/�b�iTB/s�j�ł���̂ɑ��āAMI300X��192GB��5.2TB/s�j�A���̍��͑�K�͌��ꃂ�f���iLLM�j�ł̐��_���ʂɌ����ɕ\���Ǝv����BAMD�́A�u192GB��1�`�b�v��Llama2-70B���f���S�̂�KV�iKey Value�j�L���b�V����ێ�����̂ɏ\���ȗe�ʂŁA����ɂ��A���f������GPU�ɕ������邱�Ƃɂ��l�b�g���[�N�I�[�o�[�w�b�h������ł���v�Əq�ׂĂ���B����ɁA�uMI300X�́AH100�^H200�����킸����FLOPS�������BH100�Ɠ����ŁAH200�Ɍ�������Ă��邱�Ƃ́AAMD�t�@�����������]�����邩������Ȃ����A�����̏����X�R�A�́A�\�t�g�E�F�A�̂���Ȃ�œK���ɂ���āA���̃��E���h�ŊԈႢ�Ȃ����P�����v�Ƃ����������B
�@�\�t�g�E�F�A�ʂł́AAMD�́A�u�R���|�[�U�u���J�[�l�����C�u�������L�͈͂Ɏg�p���āA�v���t�B���A�e���V������FP8�f�R�[�h�y�[�W�h�A�e���V�����A���܂��܂ȗZ���J�[�l�������Ƀp�t�H�[�}���X�N���e�B�J���ȃJ�[�l�����쐬�����v�Əq�ׂĂ���B�܂��A�f�R�[�h�X�P�W���[�����O�̍������ƃv���t�B���o�b�`�����̉��P�̂��߂ɃX�P�W���[�������P�����Ƃ����B
�@AMD��MI300X�Ƌ��ɁA������i��5����j�uEPYC�v�v���Z�b�T�ł���uTurin�v����I�����B��4����EPYC�v���Z�b�T�ł���uGenoa�v�𓋍ڂ�������V�X�e���Ɣ�r���āA�T�[�o���[�h��4.7���A�I�t���C�����[�h��2.5���Ɛ��\���P�͂킸���ł͂��邪�ATurin�x�[�X�̃V�X�e����DGX-H100��������������邱�Ƃ��ł����BAMD��Turin CPU�͂܂��s��ɓ�������Ă��Ȃ��B
Copyright © ITmedia, Inc. All Rights Reserved.