memory-bottleneck

XCENA，一家由三星和SK海力士资深人士创立的芯片初创公司，融资1.35亿美元，用于开发一种以内存为核心的芯片，该芯片可在DRAM附近处理AI推理任务，从而减少CPU与GPU之间昂贵的数据传输。该公司的MX1芯片有望提高效率并降低基础设施成本。

这是一个热门观点，认为上下文窗口分散了对AI记忆真正问题的注意力，这个问题仍未解决，并导致忘记上下文和重复错误信息。