Поточно-безопасный HashSet с коллекциями Guava

Это был бы правильный ответ, используя класс Sets из Guava. В любом случае, ответ от @crhis был добрым намерением.

Sets.newSetFromMap(new ConcurrentHashMap<V, Boolean>());

В Java 8 представлен новый способ создания параллельного набора хэшей — ConcurrentHashMap.newKeySet()

Set<K> set = ConcurrentHashMap.newKeySet();

Это короче, чем упаковка в Collections.newSetFromMap

Коллекции Google имели фабричный метод с именем Sets.newConcurrentHashSet() некоторое время.

Его реализация была аналогична предложению Криса:

public static <E> Set<E> newConcurrentHashSet() {
  return newSetFromMap(new ConcurrentHashMap<E, Boolean>());
}

У них был метод newSetFromMap() внутри класса com.google.common.collect.Sets (написанный Дугом Ли при содействии членов JCP JSR-166). Этот метод был добавлен в java.util.Collections в java 1.6.

Он был отозван в Google Collections 1.0rc1, поскольку есть планы улучшить поддержку параллельных наборов в Guava (дополнительная информация здесь).

В этом сообщении подробно рассматривается использование метод newSetFromMap для создания параллельных наборов.