AirStems 联手 LALAL.AI API:用双手实时混音,将歌曲变为可演奏乐器
在 Musixmatch 举办的 Musicathon 活动中,AirStems 凭借独特的创意荣获特别奖。这款工具彻底改变了音乐制作的交互方式:它允许用户仅凭双手,无需触碰任何 DAW(数字音频工作站)按钮,即可实时混音和演奏歌曲。
核心突破:从“操作”到“演奏”
AirStems 的核心设计理念是将传统的音乐制作决策转化为物理表演。在传统的混音流程中,制作人通过鼠标点击来静音或恢复乐器轨道;而在 AirStems 中,这一过程被转化为连续的手势控制。
- 四指对应四轨:用户只需举起双手,四根手指分别控制歌曲的四个核心元素(主唱、鼓、贝斯、吉他)。
- 连续控制维度:与鼠标只能控制单一参数不同,双手可以同时工作。例如,用户可以在同一动作中用一只手静音吉他以进行即兴演奏,同时用另一只手调整滤波器,并通过手指的张开程度控制混响。
技术架构:分离离线处理与实时流
AirStems 的成功在于其精妙的架构设计,成功解决了网络延迟与实时音频处理之间的矛盾。
1. 离线预处理流水线
- API 角色:LALAL.AI 负责音频分离(Stem Separation),Musixmatch 提供同步歌词,Cyanite 提供音频分析数据。这些服务在后台离线运行,将原始音频文件处理为独立的轨道文件(Stems)、LRC 歌词文件和 JSON 分析数据。
- 存储策略:处理结果被写入本地磁盘,通过歌曲名称进行索引。
2. 实时音频引擎
- 零网络依赖:在用户实际演奏过程中,音频管道完全本地化。引擎直接读取本地文件,无需等待网络请求,确保了极低的延迟。
- 自定义回调:开发者编写了自定义的
sounddevice回调函数,对每个音频块进行混合、滤波和混响处理。 - 防点击技术:为了解决瞬间静音/恢复导致的音频不连续(Click-free transitions),系统采用短斜坡(Ramp)来平滑增益变化,并优化内存分配以避免音频中断。
开发者视角:复用与创新的平衡
AirStems 的创作者 Lluís 基于其开源项目 Aetheric Geometry 进行了二次开发。该项目原本是一个基于 MediaPipe 手部追踪的加法合成器。
- 复用基础:Lluís 复用了现有的手部追踪、DSP 效果处理和渲染框架,这使得他能在短时间内专注于新的核心组件:多轨道播放引擎、节拍同步以及三大 API 的集成。
- 验证过程:在首次连接时,由于缺乏平滑处理,手势会导致所有轨道同时触发,产生混乱的音效。但正是这种“失控”证明了概念的有效性——手势确实能够驱动歌曲的走向。
对开发者的启示
AirStems 展示了如何利用现有的 AI 工具链(如 LALAL.AI)解决复杂的实时交互问题:
- 异步处理策略:将耗时的网络请求(API 调用)与实时用户交互(Audio Stream)分离,是构建低延迟应用的关键。
- API 组合创新:通过组合音频分离、歌词同步和频谱分析 API,可以创造出远超单一工具功能的综合体验。
- 用户体验优先:设计直观的映射关系(如手指数量对应轨道数量),可以大幅降低用户的上手门槛。
正如 Lluís 所言:"Conduct a song with your bare hands." 这不仅是技术的胜利,更是音乐表达方式的革新。