вернуть значение переменной в main при нажатии кнопки

Как уже было указано рядом людей, ваш подход и дизайн ошибочны. Я не буду вдаваться в подробности, так как с этим уже разобрались, но в качестве предложения вы можете попробовать...

abc temp = new abc();
temp.addActionListener(new ActionListener() {
    public void actionPerformed(ActionEvent evt) {
        JOptionPane.showMessageDialog(null, "Look Ma, I'm in Main...");
    }
});
temp.setVisible(true);

А в вашем abc классе...

class abc JFrame implements {
    // build your class as normal

    public void addActionListener(ActionListener listener) {
        b1.addActionListener(listener);
    }    
}

Переместите вызов JOptionPane.showMessageDialog() в метод actionPerformed() и удалите объект while() в метод main.

Вы можете прочитать о "Как написать прослушиватель действий" чтобы помочь вам реализовать ActionListner в вашем коде.

Основная идея для вашего кода будет заключаться в следующем:

• Объявить класс обработчика событий
• Зарегистрируйте экземпляр класса обработчика событий в качестве прослушивателя с вашим JButton
• Включите код, который реализует методы в интерфейсе прослушивателя. В вашем случае вы должны переопределить actionPerformed() и написать свою логику там, чтобы отобразить диалоговое окно. "Как создавать диалоги" будет для вас еще одним полезным руководством. .

Как отметил @Quinman, ваш дизайн кода действительно ошибочен. Я понимаю, что вы не хотите помещать JOptionPane в метод actionperformed по какой-то личной причине, которую я не понимаю. Основываясь на этой предпосылке, я думаю, что лучшим решением было бы создать обратный вызов, то есть сделать так, чтобы ваш JFrame знал основной класс и вызывал его при нажатии кнопки.

Можно сделать этот механизм независимым от основного класса. Ознакомьтесь с шаблоном проектирования Observer, чтобы понять, как это сделать.

В вашем коде также есть еще один недостаток - при нажатии кнопки я получаю бесконечные сообщения Hello. Чтобы этого избежать, вы должны установить для переменной button_clicked значение false. Я упомянул это только как общий совет, потому что на самом деле вам действительно следует избавиться от напряженного ожидания, которое вызывает ваше время ожидания.

Возможно, вы ищете немодальное диалоговое окно. В этом примере главная панель с именем Observer слушает ObservedPanel в диалоговом окне. При использовании PropertyChangeListener любые изменения, внесенные в диалоговое окно, немедленно отражаются на главной панели.

Судя по предоставленным вами комментариям, вы хотите повторно использовать свой класс abc (который имеет очень плохое имя и не соответствует стандартам именования Java) для нескольких разных целей, поэтому вы не хотите включать код, который выполняется, когда вы нажмите кнопку в классе abc.

Для этого есть несколько решений (где первое является моим предпочтительным)

• Передайте Action в конструкторе вашего класса abc и соедините Action с JButton. Таким образом, класс, создающий экземпляр abc, отвечает за поведение при нажатии кнопки.
• сделайте abc абстрактным и позвольте вашему ActionListener вызывать этот абстрактный метод. Затем вы можете создавать конкретные реализации этого класса каждый раз, когда вам нужно другое поведение.

Дополнительные примечания к вашему коду:

• избавиться от этой петли while( true )
• избавиться от макета null и использовать вместо него LayoutManager
• Компоненты Swing должны быть созданы и доступны в потоке отправки событий. Дополнительные сведения см. в руководстве по Параллелизм в Swing.