Автор выражения - норвежский поэт и драматург Генрик Ибсен (1828- 1906). В его драме "Гедда Габлер" (1890) это выражение прозвучало впервые в диалоге между Геддой и асессором Браком (действ. 2, явл. 1):
Брак: Все, чего я хочу, это иметь хороший, преданный круг близких друзей, где я мог бы служить словом и делом и иметь возможность при-, ходить и уходить как испытанный друг. Гедда: Хозяина дома, хотите сказать?
Брак {кланяется): Откровенно говоря, - лучше хозяйки. А потом и хозяина, разумеется... такой-то треугольный союз в сущности - большое удобство для всех сторон.
Г е-д д а: Да, мне много раз недоставало третьего...
Когда на сцене появляется муж Гедды, асессор Брак добавляет: "Треугольник замыкается".
Пьесы Г. Ибсена ("Бранд", "Пер Гюнт", "Нора", "Доктор Штокман", "Строитель Сольнес" и др.) были очень популярны в России начала XX в. и часто ставились, в частности. Московским Художественным театром.
Изначально, сразу после появления пьесы Ибсена на сцене, под "треугольником" подразумевали вполне спокойные, приемлемые для всех троих отношения между другом семьи и супружеской парой.
Позже это выражение стало означать отношения соперничества между кем-то из пары и "третьим лишним", то есть приобрело современное толкование.