【发布时间】:2017-12-19 04:12:30
【问题描述】:
我正在尝试将原始音频数据从一种格式转换为另一种格式以进行语音识别。
- 音频是从Discord 服务器以
20ms块格式接收的:48Khz, 16-bit stereo signed BigEndian PCM。 - 我正在使用CMU's Sphinx 进行语音识别,它将音频作为
InputStreaminRIFF (little-endian) WAVE audio, 16-bit, mono 16,000Hz
音频数据在byte[] 中接收,长度为3840。这个byte[] 数组包含20ms 的上述格式1 的音频。这意味着该音频的 1 秒是3840 * 50,即192,000。这就是每秒192,000 个样本。这是有道理的,48KHz 采样率,乘以 2(96K 样本),因为一个字节是 8 位,而我们的音频是 16 位,对于立体声再乘以 2。所以48,000 * 2 * 2 = 192,000。
所以我每次收到音频包时都会先调用这个方法:
private void addToPacket(byte[] toAdd) {
if(packet.length >= 576000 && !done) {
System.out.println("Processing needs to occur...");
getResult(convertAudio());
packet = null; // reset the packet
return;
}
byte[] newPacket = new byte[packet.length + 3840];
// copy old packet onto new temp array
System.arraycopy(packet, 0, newPacket, 0, packet.length);
// copy toAdd packet onto new temp array
System.arraycopy(toAdd, 0, newPacket, 3840, toAdd.length);
// overwrite the old packet with the newly resized packet
packet = newPacket;
}
这只会将新数据包添加到一个大字节 [] 上,直到字节 [] 包含 3 秒的音频数据(576,000 个样本,或 192000 * 3)。 3 秒的音频数据足以检测用户是否说出了机器人的激活热词,例如“嘿计算机。”。以下是我转换声音数据的方法:
private byte[] convertAudio() {
// STEP 1 - DROP EVERY OTHER PACKET TO REMOVE STEREO FROM THE AUDIO
byte[] mono = new byte[96000];
for(int i = 0, j = 0; i % 2 == 0 && i < packet.length; i++, j++) {
mono[j] = packet[i];
}
// STEP 2 - DROP EVERY 3RD PACKET TO CONVERT TO 16K HZ Audio
byte[] resampled = new byte[32000];
for(int i = 0, j = 0; i % 3 == 0 && i < mono.length; i++, j++) {
resampled[j] = mono[i];
}
// STEP 3 - CONVERT TO LITTLE ENDIAN
ByteBuffer buffer = ByteBuffer.allocate(resampled.length);
buffer.order(ByteOrder.BIG_ENDIAN);
for(byte b : resampled) {
buffer.put(b);
}
buffer.order(ByteOrder.LITTLE_ENDIAN);
buffer.rewind();
for(int i = 0; i < resampled.length; i++) {
resampled[i] = buffer.get(i);
}
return resampled;
}
最后,尝试识别语音:
private void getResult(byte[] toProcess) {
InputStream stream = new ByteArrayInputStream(toProcess);
recognizer.startRecognition(stream);
SpeechResult result;
while ((result = recognizer.getResult()) != null) {
System.out.format("Hypothesis: %s\n", result.getHypothesis());
}
recognizer.stopRecognition();
}
我遇到的问题是CMUSphinx 没有崩溃或提供任何错误消息,它只是每 3 秒提出一个空假设。我不完全确定为什么,但我的猜测是我没有正确转换声音。有任何想法吗?任何帮助将不胜感激。
【问题讨论】:
-
查看您的立体声丢弃循环条件。在调试器中运行它。走着瞧吧。如果您想要其他所有值,为什么要将 I 加一?也不要一直创建一个新的缓冲区并到处复制数据,这对 GC 来说是一个巨大的压力,完全没用。最后一个你想要大小的缓冲区,把数据复制进去,完成。
标签: java audio binary speech-recognition