概要
セキュリティを設定しないでパスワードを設定したら、ログインできなくて困ったとき
これでなんとか解決
アカウント：Admin
パスワード：（空欄）
optionキーを押しながら「OK」ボタンをクリック
説明
正式な順序は、
（1）
管理 > セキュリティ で、アカウント別にパスワードを設定してから、
（2）
ファイル > ファイルオプション で、アカウントとパスワードを設定します。
（1）をしなくても（2）ができます。
たとえば、アカウント名「user」パスワード「admin」と入力して「ok」とします。
すると、下のようなダイアログが表示されますが、なんかできたような気がします。
で、再度ファイルを開いたときに、
登録できたはずの、アカウント名「user」パスワード「admin」と入れてもログインできません。
そこで、（新規プロジェクトをして再現して、ダイアログの表示を確認した次第、）デフォルトのアカウント「Admin」を使って、optionキーを押しながらログインしました。できました。
あとがき
FileMakerのシステムが表示するダイアログの日本語文章はクイズみたいだし、悩むところが人それぞれだったり、一晩寝ると解決したりすることも多かったり、おもしろいなあとよく思います。
環境：FileMaker14.0.6/ macOS 10.12.6（Sierra）