ファイル名(絶対パス)の設定が必要なExcel操作のライブラリについては、保存されていないExcelファイルを操作する設定方法はありません。

ライブラリ「エミュレーション」やノード「画像マッチング」を使用し、ウィンドウ識別ルール画面でウィンドウタイトルの文字列を「Excel」、識別方式を「含む」とするとことで最前面に表示されているExcelファイルに対して操作が可能です。

また、Excel操作のライブラリを使用して操作を行う場合は、Excelファイルをいったん保存し、ファイルの絶対パスを取得することで使用することができます。