��Դ���vӍ�Ƽ�
����(ji��)����DeepSeek�ğ�ȳ��m(x��)���������S��������߀�кܶ��`��͠��h�������f����"����OpenAI�ć�؛֮��"��Ҳ�����f��"���^�dz������ģ�����I(y��)��С��"��
�@Щ�`���c���h��Ҫ�������傀���棺
1���^����Ԓ�c�o�X�H�ͣ�DeepSeek�����Dz��ǵӄ�(chu��ng)�������^�����sChatGPT֮�f�����Л]������(j��)��
2��DeepSeek�ijɱ������ֻ��550�f��Ԫ����
3�����DeepSeek����������@ô��Ч����ôȫ�������^���~��AI�Y��֧�����Dz��Ƕ�����ˮƯ��
4��DeepSeek�Ƿ������PTX�������ܷ�����܉��@�_��NvidiaCUDA����ه��
5��DeepSeekȫ�𣬵�����Ҏ(gu��)���ؾ����εȆ��}������������m(x��)������һ���^����Ԓ�c�o�X�H�� DeepSeek�����Dz��ǵӄ�(chu��ng)�£�
��(li��n)�W(w��ng)�ĘI(y��)��caoz�J(r��n)�飬�����ИI(y��)�l(f��)չ�Ĵ��M(j��n)�rֵ��ֵ�ÿ϶�������Մ���߀��r������һЩ���I(y��)�y�u��������һЩ�P(gu��n)�I���}�Ľ�Q�ϲ��]�г�ԽChatGPT��
�������˜yԇ��ģ�M���͵�С���ڷ��]���g�ď������a��DeepSeek���������ij�����F(xi��n)����ChatGPTo3-mini��ȣ�������W(xu��)����ѭ�ȽǶȁ�����߀���в�����
��Ҫ�^����Ԓ������Ҳ��Ҫ�o�X�H������
�P(gu��n)��DeepSeek�ļ��g(sh��)�ɾͣ�Ŀǰ���ڃɷN�O���^�c��һ�N�����ļ��g(sh��)ͻ�����Q��"��Ը���"����һ�N�t�J(r��n)���@���^�nj�����ģ�͵�ģ��������߀�вy������ͨ�^���sOpenAIģ�ͫ@���M(j��n)չ��
ܛ�fDeepSeek���s��ChatGPT�ĽY(ji��)��������һЩ��Ҳ���}�l(f��)�]����DeepSeek�H�͵�һ�X��ֵ��
���ϣ��@�ɷN�^�c���^��Ƭ����
����(zh��n)�_���f��DeepSeek��ͻ����һ������a(ch��n)�I(y��)ʹ�c�Ĺ��̷�ʽ��������AI�����_�١��ټ��Ƕࡱ��·����
����Ҫ������������Ą�(chu��ng)�£�
����ͨ�^Ӗ(x��n)���ܘ�(g��u)������������GRPO�㷨ͨ�^ʡȥ���y(t��ng)��(qi��ng)���W(xu��)��(x��)�б�횵�Criticģ�ͣ���"�p����"�O(sh��)Ӌ��������(f��)�s�㷨���������؈�(zh��)�еĹ��̷�����
�ڶ��������˺��u����(bi��o)��(zh��n)���������ڴ��a���Ɉ���ֱ���þ��g�Y(ji��)���͆�Ԫ�yԇͨ�^������˹��u�֣��@�N���ڴ_���Ե�Ҏ(gu��)�t�wϵ��Ч�ƽ���AIӖ(x��n)���е����^ƫ���y�}��
����ڔ�(sh��)��(j��)�������ҵ�����ƽ���c��ͨ�^���㷨�����M(j��n)����Zeroģʽ�c�H�蔵(sh��)ǧ�l�˹���(bi��o)ע��(sh��)��(j��)��R1ģʽ�M�����ȱ���ģ�������M(j��n)�������ֱ�����ɽ������
�������@Щ���M(j��n)���]��ͻ����ȌW(xu��)��(x��)����Փ߅�磬Ҳ�]�Џص��OpenAIo1/o3���^��ģ�͵ļ��g(sh��)��ʽ������ͨ�^ϵ�y(t��ng)����(y��u)����Q�ˮa(ch��n)�I(y��)��ʹ�c��
DeepSeek��ȫ�_Դ��Ԕ��(x��)ӛ����@Щ��(chu��ng)���c��ȫ���綼�ܽ����@Щ�M(j��n)չ�����M(j��n)�Լ���AIģ��Ӗ(x��n)�����@Щ��(chu��ng)���c���ԏ��_Դ�ļ��п�����
StabilityAIǰ�о�����TanishqMathewAbraham�ڽ��ڵIJ�����Ҳ��(qi��ng)�{(di��o)��DeepSeek��������(chu��ng)���c��
1�����^ע�����C(j��)�ƣ����Z��ģ��ͨ���ǻ���Transformer�ܘ�(g��u)��ʹ�����^�Ķ��^ע������MHA���C(j��)����DeepSeek�F(tu��n)��_�l(f��)��һ�NMHA�C(j��)�Ƶ�׃�w���@�N�C(j��)�Ƽ��ܸ���Ч�����Ã�(n��i)�棬���ܫ@�ø��õ����ܱ��F(xi��n)��
2������C�����GRPO��DeepSeek�C����һ���dz����εď�(qi��ng)���W(xu��)��(x��)��RL�����̌��H�Ͽ����_(d��)�����GPT-4��Ч��������Ҫ�����������_�l(f��)��һ�N�Q��GRPO��PPO��(qi��ng)���W(xu��)��(x��)�㷨׃�w���@�N�㷨���Ӹ�Ч�����ܸ�����
3��DualPipe���ڶ�GPU�h(hu��n)����Ӗ(x��n)��AIģ�͕r����Ҫ���]�ܶ�Ч�����P(gu��n)��������DeepSeek�F(tu��n)��O(sh��)Ӌ��һ�N�Q��DualPipe���·������@�N������Ч�ʺ��ٶȶ��@�������
���y(t��ng)���x�ϵ�"���s"ָ���nj�token���ʣ�logits����Ӗ(x��n)������ChatGPT��δ�_���@�(sh��)��(j��)�����Ի���������ȥ�����s��ChatGPT��
��ˣ��ļ��g(sh��)�Ƕȿ���DeepSeek�ijɾͲ���(y��ng)����ܵ��|(zh��)��������OpenAIo1���P(gu��n)˼�S������^�̏�δ���_���μ�����"���s"ChatGPT�����y�Ԍ��F(xi��n)�@һ�ɹ���
��caoz�J(r��n)�飬DeepSeek��Ӗ(x��n)���������ܲ���������һЩ���s���Z����Ϣ�������������S�����s��C�����@����������ģ�͵��|(zh��)���̓rֵӰ푑�(y��ng)ԓ�ܵ���
�����������I(l��ng)��ģ�����s��C��(y��u)���Լ���ģ�����Ǻܶ��ģ�͈F(tu��n)꠵�һ����Ҏ(gu��)��������������Ҫ(li��n)�W(w��ng)API���ܫ@�õ���Ϣ�dz���������̫�����ǛQ���Ե�Ӱ������������ں����Ļ�(li��n)�W(w��ng)��(sh��)��(j��)��Ϣ���f��ͨ�^api�{(di��o)���I(l��ng)�ȴ�ģ���ܫ@�õ��Z�ϱ�ˮ܇н�������IJy�Ǹ������ڌ����Ե���C������������ֱ��������Ҏ(gu��)ģӖ(x��n)����
���д�ģ�Ͷ���Ҫ�Ļ�(li��n)�W(w��ng)�@���Z��Ӗ(x��n)�������I(l��ng)�ȵĴ�ģ��Ҳ�ڲ����黥(li��n)�W(w��ng)ؕ�I(xi��n)�Z�������@���Ƕȁ��f��ÿ���I(l��ng)�ȵĴ�ģ�Ͷ��[Ó���˱��ɼ��������s�����������䌍Ҳ�]��Ҫ���@����(d��ng)���ǛQ���ɔ����P(gu��n)�I��
��K��Ҷ��������������������㣬����ǰ�M(j��n)������DeepSeek�ijɱ��H��550�f��Ԫ��
550�f��Ԫ�ɱ����@���Y(ji��)Փ�����_Ҳ�e�`�����]���f�����ʲô�ɱ���
TanishqMathewAbraham���^������DeepSeek�ijɱ���
�������҂��б�Ҫ�����@����(sh��)���Ǐĺζ������@����(sh��)��������F(xi��n)��DeepSeek-V3��Փ������ԓՓ�ı�DeepSeek-R1��Փ����l(f��)����һ���£�
DeepSeek-V3��DeepSeek-R1�Ļ��A(ch��)ģ�����@��ζ��DeepSeek-R1���H�Ͼ�����DeepSeek-V3�Ļ��A(ch��)���M(j��n)�����~��ď�(qi��ng)���W(xu��)��(x��)Ӗ(x��n)����
�������ij�N���x���f���@���ɱ���(sh��)��(j��)�����Ͳ����(zh��n)�_��������]��Ӌ�돊(qi��ng)���W(xu��)��(x��)Ӗ(x��n)�����~��ɱ������^�@�����~��ɱ�����Ҳ�͎�ʮ�f��Ԫ��
�D��DeepSeek-V3Փ�����P(gu��n)�ڳɱ���Փ��
��ô��DeepSeek-V3Փ�����Q��550�f��Ԫ�ɱ��Ƿ��(zh��n)�_�أ�
����GPU�ɱ�����(sh��)��(j��)����С��ģ��Ҏ(gu��)ģ�Ķ�헷������ó�����ƵĹ���Y(ji��)����ֵ��ע��������mȻDeepSeekV3/R1��һ������6710�|����(sh��)��ģ�������������ˌ��һ��ϵ�y(t��ng)��mixture-of-experts���ܘ�(g��u)���@��ζ�����κκ���(sh��)�{(di��o)�û�ǰ������rֻ��ʹ�üs370�|����(sh��)���@����(sh��)ֵ����Ӗ(x��n)���ɱ�Ӌ��Ļ��A(ch��)��
��Ҫע�������DeepSeek�����ǻ��ڮ�(d��ng)ǰ�Ј��r�����ijɱ����҂�����֪��������2048��H800GPU��Ⱥ��ע�⣺����H100���@��һ����Ҋ���`�⣩���H���M�˶�����ͨ����r�£�����ُ�IGPU��Ⱥ������ɢُ�I���������Ԍ��H�ɱ����ܸ�����
���P(gu��n)�I�������@ֻ����KӖ(x��n)���\�еijɱ������_(d��)����KӖ(x��n)��֮ǰ��߀���S��СҎ(gu��)ģ�Č��������о����@Щ�����a(ch��n)���ஔ(d��ng)���^�ijɱ������@���ֳɱ���δ�ڴˈ�����w�F(xi��n)��
������߀�������T��ɱ��������о��ˆT��н�Y����(j��)SemiAnalysis�����DeepSeek���о��ˆTн�Y��(j��)�����_(d��)100�f��Ԫ���@�cOpenAI��Anthropic��AGIǰ�،���ҵĸ߶�н�Yˮƽ�ஔ(d��ng)��
��������@Щ�~��ɱ��Ĵ�����������DeepSeek�ĵͳɱ������\�IЧ�ʡ��@�N�f���O����ƽ���������AI��˾���ˆT��Ҳ�����M������н�Y���@ͨ�����]�б�Ӌ�㵽ģ�͵ijɱ���ȥ����
Semianalysis��һ�Ҍ�ע�댧(d��o)�w���˹����ܵĪ����о��c������˾��Ҳ�o����DeepSeek��AITCO���˹������I(l��ng)���еĿ��ɱ����������@�������Y(ji��)��DeepSeekAI��ʹ���ķN��ͬ��̖GPU��A100��H20��H800��H100���r�Ŀ��ɱ���r�������I�O(sh��)����������(w��)�����\�I���M���������������ځ��㣬�@60,000�KGPU�Ŀ����M��25.73�|��Ԫ��������Ҫ���I����(w��)�����M�ã�16.29�|��Ԫ�����\�I���M�ã�9.44�|��Ԫ����
��(d��ng)Ȼ�����]���˜�(zh��n)�_֪��DeepSeek�������ж��ٿ��Լ�������̖��ռ�Ⱦ����ж��٣����е�һ�ж�ֻ�ǹ�����
���Y(ji��)���f����������е��O(sh��)��������(w��)�����\�I�ȳɱ�ȫ���������ɱ��϶��h(yu��n)��550�f��Ԫ�����ǣ�550�f��Ԫ�ă������ɱ����ѽ�(j��ng)ʮ�ָ�Ч���������~�Y��֧��Ͷ�Y���� ֻ�Ǿ�����M��
�@��һ���V���������ஔ(d��ng)Ƭ����^�c���_����DeepSeek��Ӗ(x��n)��Ч����չ�F(xi��n)���˃�(y��u)����Ҳ��¶��һЩ�^����AI��˾��Ӌ���YԴʹ���Ͽ��ܴ���Ч�ʆ��}������Ӣ���_(d��)���ڵı���Ҳ����Ҳ�c�@���`�x�V���������P(gu��n)��
���@������ζ�����и���Ӌ���YԴ��һ����������ScalingLaws���U(ku��)չ���ɣ��ĽǶȁ����������Ӌ������ʼ�K��ζ�����õ���������2017��Transformer�ܘ�(g��u)�����ԁ����@һڅ��һֱ���m(x��)����DeepSeek��ģ����Ҳ�ǻ���Transformer�ܘ�(g��u)����
AI�l(f��)չ�����c�mȻ�ڲ�����׃�����������ģ��Ҏ(gu��)ģ������(sh��)��(j��)����С���ٵ��F(xi��n)�ڵ�����Ӌ��ͺϳɔ�(sh��)��(j��)����"����Ӌ����ڸ�������"�ĺ���Ҏ(gu��)�ɲ�δ��׃��
�mȻDeepSeek�ҵ���һ������Ч��·����Ҏ(gu��)ģ������Ȼ��Ч�������������Ӌ���YԴ����Ȼ�ܫ@�ø��õ�Ч��������DeepSeek�Ƿ������PTX �@�^�ˌ�NVIDIACUDA����ه��
DeepSeek��Փ�����ᵽ��DeepSeek������PTX��ParallelThreadExecution��������ͨ�^�@�ӵ�һ�����Ƶ�PTX��(y��u)����ʹDeepSeek��ϵ�y(t��ng)��ģ�Ϳ��Ը���ጷŵ�Ӳ����������
Փ�ĵ�ԭ�����£�
��weemploycustomizedPTX��ParallelThreadExecution��instructionsandauto-tunethecommunicationchunksize,whichsignificantlyreducestheuseoftheL2cacheandtheinterferencetootherSMs�������҂����ö��Ƶ�PTX�����о��̈�(zh��)�У�ָ��Ԅ��{(di��o)��ͨ�ʼnK��С���@���p����L2�����ʹ�ú͌�����SM�ĸɔ_����
�@��(n��i)�����W(w��ng)�j(lu��)���������ɂ����x��һ�N���J(r��n)�����@�Ǟ��ˡ��@�_CUDA�Ŕࡱ������һ�N���������DeepSeek�o���@����߶˵�оƬ�����˽�QH800GPU��(li��n)�������Ć��}�����ò��³�������һ������������оƬͨ��������
�Ϻ���ͨ��W(xu��)�����ڴ������J(r��n)�����@�ɷN�f������̫��(zh��n)�_��������PTX�����о��̈�(zh��)�У�ָ��H����λ��CUDA�(q��)�ӌӃ�(n��i)����һ���M��������Ȼ��ه��CUDA���B(t��i)ϵ�y(t��ng)����������PTX�@�^CUDA�ĉŔ��@�N�f�����e�`�ġ�
�����ƽ�����һ��PPT�����ؽ����PTX��CUDA���P(gu��n)ϵ��
PPTϵ�Ϻ���ͨ��W(xu��)�����ڴ���������
CUDA��һ���������όӵĽӿ����ṩ�������Ñ���һϵ�о��̽ӿڡ���PTXһ�㱻�[������CUDA���(q��)���������Ԏ����е���ȌW(xu��)��(x��)���ģ���㷨���̎��Dz������|���@һ����
�Ǟ�ʲô�@һ�ӕ�����Ҫ����ԭ�������ڿ��Կ������@����λ����PTX��ֱ�Ӻ͵ӵ�Ӳ��ȥ�l(f��)�����������܉�?q��)��F(xi��n)����Ӳ�����õľ��̺��{(di��o)����
��ͨ��Ԓ���v��DeepSeek�@�N��(y��u)��������������оƬ���ĬF(xi��n)���l���µIJ����ў�֮�������������ă�(y��u)��������оƬ�õ���H800߀��H100���@�N�������܉����ͨ�Ż�(li��n)Ч��������DeepSeek����������Æ
DeepSeek����֮����Ӣ���_(d��)��ܛ��Ӣ�ؠ���AMD��AWS����ƾ��^���ϼܻ���DeepSeek������(n��i)�������A�����vӍ���ٶ��������ɽ����Ҳ��֧�ֲ�����DeepSeek��
�������W(w��ng)�j(lu��)����һЩ�^����w������Փ��һ�������������ƾ��^�ϼ���DeepSeek�������ⱻ����ˡ���
�䌍���@Щ��˾����DeepSeek�IJ��𣬸���������̘I(y��)�Ŀ����������ƏS�����M���ܶ��֧�ֲ������ܚgӭ���������(qi��ng)��ģ�������Ԟ�͑��ṩ���õķ���(w��)��ͬ�r��Ҳ�ܲ�һ���cDeepSeek���P(gu��n)�����������SҲ������һ���ֵ����Ñ��D(zhu��n)����
��DeepSeek���ĕr���в������棬���nj�DeepSeek���Ъ�犻����ǡ�����������f���s�^�ֿ������
�����������������DeepSeek���ܹ���֮�����Ї��Ƽ�Ȧ�M�ɏ�(f��)����(li��n)������ͬ�YԮDeepSeek���f����
����һ������߀�����f�����ؾ����εȬF(xi��n)��ԭ�����ܿ����͕���m(x��)��ֹDeepSeekʹ�á�
������caoz�o���˱��^�����Ľ��x���䌍�҂����f��DeepSeek�����H�ϰ����˃ɂ��a(ch��n)Ʒ��һ����DeepSeek�@���L(f��ng)�������App����һ����github�ϵ��_Դ���a����ǰ�߿����J(r��n)���Ǻ��ߵ�Demo��һ������������չʾ����������Ҳ�S�����L��һ������_Դ���B(t��i)��
������ʹ�õ�����DeepSeek��App�������^������ṩ������DeepSeek�_Դܛ���IJ������@��ȫ�ǃɼ�����
DeepSeek��"�Ї���ģ��"���ˑB(t��i)�J��ȫ��AI���������Ҳ�����������_Դ�f(xi��)�h����MITLicense���������S������Ŀǰ������ӑՓ�ѽ�(j��ng)�h(yu��n)�h(yu��n)��Խ�˼��g(sh��)��(chu��ng)�µķ����������g(sh��)���M(j��n)���ā����ǷǺڼ��Č��e֮�����c�������^�ȴ�����ȫ�P���������r�g���Ј��z����挍�rֵ����������AI�@���R�����У������ĸ����ń����_ʼ��
�����Y�ϣ�
���P(gu��n)��deepseek��һЩ�ձ��`�x�����ߣ�caoz
https://mp.weixin.qq.com/s/Uc4mo5U9CxVuZ0AaaNNi5g
��DeepSeek�(qi��ng)���I(y��)���������彻��(f��)���ڳ�Ӳ�˽��x�����ߣ�ZeR0
https://mp.weixin.qq.com/s/LsMOIgQinPZBnsga0imcvA
DebunkingDeepSeekDelusions ���ߣ�StabilityAIǰ�о�����TanishqMathewAbraham
https://www.tanishq.ai/blog/posts/deepseek-delusions.html
��؟(z��)��:��DeepSeek���{������`���c������x�����D(zhu��n)�l(f��)�Ի�(li��n)�W(w��ng)�����(qu��n)�w�����С�
����(n��i)�ݲ�������վ�������κ�Ͷ�Y��ʾ������؛���Ј��O�䲨�����L(f��ng)�U�ܸ������ܲ��m������Ͷ�Y������Ͷ�Y����؛��֮ǰ��Ո�_���Լ�����˽��Ј���Ͷ�Y���L(f��ng)�U�������]�Լ���ؔ��(w��)��r���L(f��ng)�U����������������Ո��ѭ�����ڇ��ҵķ��ɷ�Ҏ(gu��)���Լ����ؽ��������X���ṩ�̵�Ҏ(gu��)���������κ���ʹ�ü���؛������ɵ�Ͷ�Y�pʧ�������pʧ����վ���Г�(d��n)�κ�؟(z��)�Ρ�
Copyright © 2021.Company Ԫ����YITB.COM All rights reserved.Ԫ����YITB.COM