Архитектура производитель-потребитель с Java RealTime

Я работаю с аналогичной проблемой, но в другом домене:

Вот как я с этим справился:

public class Producer extends Thread{
   private BlockingQueue<E> consumerQueue = null;
   public setConsumerQueue(BlockingQueue<E> val){
      consumerQueue = val;
   }
   // main method where data is received from socket...
   public void run(){
      while(!interrupted()){
           data = socket.receive();// Receive data
           if(consumerQueue!=null) consumerQueue.offer(data);
      }
   }
}

public class Consumer extends Thread{
   private BlockingQueue<E> consumerQueue = new BlockingQueue<E>();
   public Consumer (Producer val){
      val.setConsumerQueue(consumerQueue);
   }
   public void run(){
      while(!interrupted()){
           data = consumerQueue.take();// block until there is data from producer
           if(data !=null) processData(data);
      }
   }
}

При принятии решения о том, как разбить приложение, полезно иметь четкое представление о том, сколько времени занимает каждый этап и какую обработку можно выполнять параллельно. Вы хотите рассчитать время каждого этапа в микросекундах и измерить распределение. Самыми интересными моментами обычно являются 99% (наихудший 1%), 99,9% или 99,99% тайловых задержек.

Я бы взглянул на библиотеку disruptor. Это довольно универсальная библиотека, предназначенная для высокой пропускной способности и низкой задержки.

Если вы хотите что-то более простое, существует ряд шаблонов, которые могут обмениваться данными между потоками за доли микросекунды, однако это точечные решения, которые зависят от вашего конкретного варианта использования.

Эта презентация может показаться вам интересной, хотя в основном она посвящена тестированию компонентов с низкой задержкой, высокой пропускной способностью и связи через сокеты. http://vanillajava.blogspot.com/2011/11/low-latency-slides.html