“尼亚加拉”一词来自印第安语，意即“如雷贯耳”。关于这个瀑布有一则动人的传说：从前，有一位美貌的印第安姑娘被部落的酋长相中。酋长想娶她为妻，但姑娘不愿意，于是，在新婚之夜，她独自划着独木舟沿尼亚加拉河而上。在河水中，姑娘变成了美丽的仙女，后来经常出现在大瀑布的彩虹中。
尼亚加拉瀑布原本是人迹罕至、鲜为人知之地，几千年来，只有当地的印第安人知道这一自然奇观。在他们实际上见到瀑布之前，就听到如同打雷般的声音，因此他们把它称为“Onguiaahra”，意即“巨大的水雷”。据传，欧洲人布鲁勒于1615年领略到尼亚加拉瀑布奇观。1625年，欧洲探险者雷勒门特第一个写下了这条大河与瀑布的名字，称为尼亚加拉。
据说尼亚加拉瀑布已存在约1万年了，它的形成在于不寻常的地质构造。在尼亚加拉峡谷中岩石层是接近水平的，每千米仅下降3.5?4.5米。岩石的顶层由坚硬的大理石构成，下面则是易被水力侵蚀的松软的地质层。激流能够从瀑布顶部的悬崖边缘笔直地飞泻而下，正是由松软地层上的那层坚硬的大理石地质层所起的作用。更新世时期，巨大的大陆冰川后撤，大理石层暴露出来，被从伊里湖流来的洪流淹没，形成了现今的尼亚加拉大瀑布。通过推算冰川后撤的速度，瀑布至少在7000年前就形成了，最早则有可能是在2.5万年前形成的，但具体形成于何时还有待考证。