Skip to main content

我是真的服了,大量的篇幅导致网页巨卡![Long thread frontend performance improvement]

之前就提过一次了,为什么现在还是巨卡的啊!!!!到底什么时候能优化啊?优化不了不用了!

Status: Completed12 comments

Comments12

  • Bohan

    Team•

    Sep 19, 2024

    Pinned

    Hi Bool,

    我本周深入研究了一下页面的性能优化问题,我发现目前在内容很多的页面中主要存在两个问题:

    1. 初次进入的加载时间比较长

    2. 在输入框内输入非常卡顿

    其中第二点是主要影响用户体验的地方,我已经在刚刚完成了修复。请您再试试看是否成功优化。感谢您的反馈!

    Bohan

    • An Bool

      •

      Sep 19, 2024

      看来的确是深入的体验到了,目前我在 MacOS 上测试了似乎并不怎么卡顿了,改日我在 Windows 测试一下再反馈给你哦,谢谢。

    • An Bool

      •

      Sep 20, 2024

      目前来看确实已修复

  • olive changed status to Planned
    •

    Aug 19, 2024

    Hi An Bool,

    我已经将事项加急告知我们的团队,今天就会开会讨论这件事情,请您给我们一点时间。

    非常感谢

    • An Bool

      •

      Aug 25, 2024

      进展如何啊?

      • olive

        •

        Aug 26, 2024

        Hi An Bool,

        非常感谢您的反馈和耐心。目前,我们正在开发一个AI Profile功能,为了提升Devv理解项目的能力。这项改进有望显著提高系统的整体性能表现。

        具体来说,这个AI配置文件将使Devv能够更高效地处理和分析大量信息,从而减少加载时间和提高响应速度。我们的目标是在保持功能丰富性的同时,大幅提升用户体验的流畅度。

        需要说明的是,虽然长线程性能问题很重要,但我们无法将所有资源都集中在这一个问题上。我们正在同步开发多项功能,以全面提升用户体验。

        我们相信,这些综合性的改进将为您带来更好的使用体验。我们正全力以赴开发这些功能,并希望在不久的将来为您带来明显的性能和功能提升。再次感谢您的宝贵反馈,它对我们持续改进产品至关重要。

        Best,
        Olive
        Product Ops
        Devv.ai

      • Kai

        •

        Aug 27, 2024

        Hi Bool,

        我们正在推进这个修复,有一些细节我需要和您确认,方便我们工程这边复现您的问题:

        1. 关于大量篇幅:这个是指单个生成的回答篇幅过长,还是指您有非常长(> 10 轮问答)的对话场景?

        2. 关于网页巨卡:这里指是您的滚动的体验不好,还是指任何在 thread 的操作(继续提问/切换模型/上传图片)都到无法使用的状态?

        再次非常感谢您的反馈,如果您方便能分享具体的 thread 会对我们帮助非常大。

        Kai

        Product @ Devv

        • An Bool

          •

          Aug 31, 2024

          1、很长的对话篇幅,大概几十轮的问答;

          2、滚动体验倒是小事情,关键对话框打字都费劲,字都打完了,2-3 秒才输入到对话框,非常慢,而且发送出去虽然会话响应没啥影响但是页面要卡一会才能出现。

          • Bohan

            Team•

            Sep 3, 2024

            Hi Bool,

            是这样的,目前 LLM 对话/搜索的场景下其实有一个没办法完美解决的问题就是模型的记忆力问题。因为 LLM 输入的窗口大小是有限的,所以没办法避免的是一轮对话如果进行了几十甚至上百轮,那么模型上下文 Context 会丢失,存在记忆错乱的情况。

            因此,从我个人的使用经验来说,我建议您在关于某个话题问题结束的时候,新开启一个 Thread 来进行提问,这样可以让回答的效果更好。

            关于优化,其实相比于进行 Long Thread 页面的优化,我们更多的在思考如何引导用户开启新的 Thread 来获得更好的回答效果,因此一直没有在这个页面上进行很多的性能优化工作,很抱歉给您带来了困扰。

            Bohan

            • An Bool

              •

              Sep 5, 2024

              既然如此这样也是好的。希望尽早的更新…现在这个上下文属实不太行,特别费劲!重新开一个 Thread 又是一番调教。

              • Bohan

                Team•

                Sep 10, 2024

                抱歉,请问您具体指的不太行是长度问题还是精度问题

                比如具体是说您过去 10 条的内容丢失,还是过去 1 条长内容丢失

                • An Bool

                  •

                  Sep 11, 2024

                  精度问题啊,聊七八轮,它就没上下文联系了