Skip to main content

2024-08-29 Cerebras Launches the Worldโ€™s Fastest AI Inference

ยท 2 min read

๐ŸŽ๐Ÿ–๐Ÿ๐Ÿ— ๐“๐“ฒ๐“ฆ๐“ช๐“ป๐“ฝ๐“ผ ๐“๐“ฎ๐”€๐“ผ (AIๆ—ฅๆŠฅ็ฌฌ148ๆœŸ) ๐Ÿง™๐Ÿ“ฐย โ€‹

Cerebras Launches the Worldโ€™s Fastest AI Inference

๐ŸคฏAIๅคงไบ‹ไปถ

  • Cerebras ๆŽจๅ‡บไธ–็•ŒไธŠๆœ€ๅฟซ็š„ LLM ๆŽจ็†ๆœๅŠกใ€‚Llama 3.1 8B ็š„็”Ÿๆˆๆ•ฐ็‹ฌๅฏไปฅๅˆฐๆฏ็ง’1800Token๏ผŒ70B ๅฏไปฅ่พพๅˆฐ 450 Tokenใ€‚็›ฎๅ‰ๆฏไธชไธบๆฏไธชๅผ€ๅ‘่€…ๆฏๅคฉๆไพ› 100 ไธ‡ไธชๅ…่ดน Token

  • ่ฐทๆญŒๆŽจๅ‡บไบ†Gemini็ณปๅˆ—3ไธชๆ–ฐๆจกๅž‹๏ผšGemini 1.5 Pro Experimental 0827๏ผˆไปฃ็ ๅ’ŒๆŽจ็†่ƒฝๅŠ›ๆ›ดๅผบ๏ผ‰ใ€Gemini 1.5 Flash Experimental 0827๏ผˆๆ•ดไฝ“่ƒฝๅŠ›ๅขžๅผบ๏ผ‰ใ€Gemini 1.5 Flash 8B Experimental 0827๏ผˆๅฐๆจกๅž‹ใ€8B๏ผ‰

  • Google Gems ็Žฐๅทฒๅ‘ Gemini Advanced ็”จๆˆทๆŽจๅ‡บ๏ผŒ็ฑปไผผไบŽ OpenAI ็š„่‡ชๅฎšไน‰ GPT๏ผŒ็›ฎๅ‰ๅชๆ”ฏๆŒ่‡ชๅฎšไน‰ๆ็คบ่ฏ

  • Imagen 3 ็Žฐๅทฒๅœจ Gemini Web ๅ’Œ็งปๅŠจๅบ”็”จ็จ‹ๅบไธญๆŽจๅ‡บ

  • ๆ™บ่ฐฑๅผ€ๆบไบ†CogVideoX-5B๏ผŒDiT่ง†้ข‘ๆจกๅž‹๏ผŒ่ƒฝ็”Ÿๆˆ720*480็š„่ง†้ข‘ใ€‚ๅœจ 3090 ไธŠๆŽจๆ–ญ 720x480 ็š„ 49 ๅธง่ง†้ข‘้œ€่ฆ 13 ๅˆ†้’Ÿ๏ผŒ4090 ๅคง็บฆๆ˜ฏไธ€ๅŠ๏ผๅฆๅค–ไน‹ๅ‰็š„2B็‰ˆๆœฌ๏ผŒๅผ€ๆบๅ่ฎฎๆ”นๆˆไบ†ๅฏๅ•†็”จ

๐Ÿงฐ AIๆ–ฐๅทฅๅ…ท

  • auto-video-generateor - AI่‡ชๅŠจ่งฃ่ฏด่ง†้ข‘็”Ÿๆˆๅ™จ๏ผŒ็ป™ๅฎšไธป้ข˜่‡ชๅŠจ็”Ÿๆˆ่งฃ่ฏด่ง†้ข‘
  • Remove Background WebGPU - ่ƒŒๆ™ฏ็งป้™คๅทฅๅ…ทใ€ๆต่งˆๅ™จๅ†…ๆŽจ็† ๐Ÿค— Transformers.jsใ€WebGPU ๅŠ ้€Ÿใ€ๆˆๆœฌ 0 ็พŽๅ…ƒ
  • Humata - ไธ€ไธชๅทฅๅ…ท๏ผŒๆไพ›ๅฟซ้€Ÿๆ€ป็ป“้•ฟ็ฏ‡่ฎบๆ–‡ๅนถ่Žทๅพ—ๅณๆ—ถ็ญ”ๆกˆ็š„็ฎ€ๅ•ๆ–นๆณ•๏ผˆ1.99็พŽๅ…ƒ/ๆœˆ๏ผ‰

ๆ—ฅๆŠฅ็›ด้€š่ฝฆ