Подождать/уведомить блокировку

Почему у вас три утверждения synchronized? wait(0) снимает блокировку только с this, так что просто оставьте его и выгрузите synchronized из метода и synchronized(myLock).

Всякий раз, когда вы вызываете ожидание для какого-либо объекта (в данном случае вы вызываете this), блокировка этого объекта автоматически снимается, чтобы позволить другому потоку продолжить работу. Но вы никогда не вызываете wait на myLock (и не должны этого делать, потому что вы уже звоните на this). Эта часть является избыточной и вызывает взаимоблокировку.

Рассмотрим такой сценарий: поток, который должен добавить, блокирует myLock, но обнаруживает, что очередь заполнена, поэтому ждет. Это ожидание не освобождает блокировку myLock. Другой поток хочет получить данные, но не может войти в блок synchronized, поскольку первый поток не снял блокировку с myLock.

Вывод: удалите блоки synchronized(myLock).

Почему вы не заглянете в java. util.BlockingQueue. Возможно, это будет полезно в вашей ситуации.

В частности, обратите внимание на java.util.LinkedBlockingQueue, где, если вы укажете емкость очереди в конструкторе, очередь будет заблокирована.

Удалите ключевое слово synchronized из ваших сигнатур методов, так как это означает, что вы держите монитор this для всего вызова метода — блоки synchronized(this) просто избыточны.

РЕДАКТИРОВАТЬ:

...Затем вызовите ожидание и уведомите myLock, а не this. И полностью забудьте о синхронизации на this. Это связано с тем, что во время ожидания (на this в вашем текущем коде) вы не снимаете блокировку myLock, поэтому другой поток не может добраться до notify().

Замените if на while. Не помешает перепроверить, действительно ли коллекция стала не пустой/не полной.

Два замка на самом деле не нужны. Одиночная блокировка будет работать почти так же хорошо и должна быть намного проще.

public synchronized T get()
{
    while(isEmpty())
        wait(0);

    notifyAll();

    return super.get();

}

public synchronized put(T t)
{

    while(isFull())
        wait(0);

    super.put(t);

    notifyAll();

}

Все потоки проснутся, когда что-то изменится. Но если они не могут выполнять свою работу, они будут wait в следующие notify.

Как уже упоминалось, в вашем коде слишком много аннотаций synchronized. Кроме того, условие включения wait проверяется в условном выражении if, но в идеале его следует проверять в цикле while, чтобы избежать ложные пробуждения. Вот набросок кода, который их исправляет.

// _isEmpty and _getData are private unsynchronized methods
public MyData get() throws InterruptedException {
  // wait and notify should be called from a block
  // synchronized on the same lock object (here myLock)       
  synchronized (myLock) {
    // the condition should be tested in a while loop
    // to avoid issues with spurious wakeups
    while (_isEmpty()) {
      // releases the lock and wait for a notify to be called
      myLock.wait();
    }
    // when control reaches here, we know for sure that
    // the queue is not empty
    MyData data = _getData();
    // try to wake up all waiting threads - maybe some thread
    // is waiting for the queue not to be full
    myLock.notifyAll();
  }
}

// _isFull and _putData are private unsynchronized methods
public void put(MyData obj) throws InterruptedException {
  synchronized (myLock) {
    while (_isFull()) {
      myLock.wait();
    }
    _putData(obj);
    myLock.notifyAll();
  }
}