考えられる原因としましては下記の2点となります。

考えられる原因 ①

DB連携の制限事項に抵触している。

制限事項についてはマニュアルをご参照ください。
※例えばデータベースのODBCドライバーは、32bit版しか利用出来ません。

考えられる原因 ②

正しくODBCの接続設定がされていない。

例えば、Microsoft Queryを使用して外部データを取得出来れば、正しくODBCの接続設定が出来ていると判断出来ます。

※Excelファイルの「データ」タブ→「データーの取得」→「その他のデータソースから」→「Microsoft Queryから」を選択。
（Excelのバージョンにより選択するメニューは異なります。）

 

取得出来ない場合は設定が正しくされていないことになりますので、ODBCへの接続設定を見直しください。