通义灵码流式补全性能优化场景DEMO
第三个是性能,如果前段是特别多的、非常大段的代码的时候,这种展示可能需要好几秒,开发者需要刻意的等待。
return( LassName=“banner”> {/*,搜索*/} {handleSearchChange}-handlesearch={handleSearCh}handLeAdd={handeAcd}/> {/*表格·*/} {coLumns}dataSource={tableData}·pagination={paginationInfo}/> (/*,抽屉·*/) titLe=(status =2益UpdateEnum.Save?"新增全局配置":"编辑全局配置") plaCement="right”" width=(500) onclose=(handLeclose) open=isDrawer0pen) footer=0 onC1ick=(handLeclose)·styLe=(marginRight:"10px"*/Button> } />
我们怎么做呢?我们在VS Code中实现了流失补全,比如今天模型返回首包的时候,就可以展示整段的代码,即开始展示第一行,第二行开始流式的输出,首次展现时间可以降低到500毫秒左右,甚至更短,这样的体验就让开发者有一种不等待的感觉,他会觉得不需要刻意的迎合我们的AI,而是让AI适应我们,这样的体验会更好。
通过这一系列的措施,我们不断的优化模型和提高数据检索的精准度。
<TabLe·coLumns=(coLumns)dataSource=(tableData)pagination=(paginationInfo)-/> </ContentInterWrap> </ContentWrap> (/*·抽屉·*/) <Drawer titLe=(status .2=-UpdateEnum.Save?"新增全局配置“:“编辑全局配置“) width=(720} oncLose=(handLecLose) open=(isDrawer0pen) footer=0 <div·styLe=(·textALign:"right”> <Button oncick=(handLeClose}styLe=marginRight:“10px")> 取消 </Button> </div> } </div> ); };