Бывает, что нужно удалить вообще все из таблицы JTable. Это можно сделать следующим образом: получаем модель данных, получаем из нее вектор с данными и очищаем его. После чего обновляем данные в таблице.
DefaultTableModel dtm = (DefaultTableModel) jTable.getModel();
dtm.getDataVector().removeAllElements();
dtm.fireTableDataChanged();