브람스는 작곡을 시작하여 완성까지 무척 신중한 작곡가이다. 작곡을 시작한 이 후 피아노 독주곡과 성악곡 등 소품만 발표했었던 브람스는 1854년, 자신의 최초의 실내악곡인 피아노 3중주 1번 (Op.8)를 발표한다.

이 곡은 자신감의 결여와 자기 만족을 위해 같은 형식에서 수많은 시도를 한 끝에 발표된 것이다. 실제로 피아노 3중주 1번의 발표 전에 이미 작곡된 3곡의 다른 3중주 곡을 파기시킨 후 발표한 것으로 알려져 있다.

이 곡의 발표 후 자신감을 얻은 청년 브람스는 그 이듬해(1855년)에 피아노 4중주곡을 스켓치하기 시작한다. 피아노 4중주는 피아노, 바이올린, 비올라, 첼로의 조합으로, 모차르트의 2곡과 슈만의 1곡 등이 그 예로 있을뿐 조금은 생소한 형식이었다. 가뜩이나 신중한 브람스에게 이 4중주의 작업은 쉽지 않았다.

3곡의 다른 사중주 곡을 거의 동시에 착수하였는데, 그중 가장 먼저 스케치한 곡은 완성까지 20년이나 걸려 결국 작품 60번(Piano Quartet No.3)이 되었다. 나머지 두 곡도 6년이란 긴 세월이 흐른 후 1861년에야 겨우 완성되었다.

1856년 슈만이 정신병원에서 죽은 뒤 브람스는 시간을 쪼개 슈만의 미망인 클라라 슈만과 그의 가족의 생계를 위한 연주여행을 도우는 한편 자신이 창단하여 지휘하던 여성 합창단이 있는 함부르크에서 부모와 함께 머물렀다. 그러나 1860년, 그의 나이 27살이 되는 해에 작곡을 위해 좀더 조용하고 개인적인 공간의 필요성에 절감하고 햄(Hamm)이라는 도시의 교외에 정원이 딸린 넓은 곳으로 거처를 옮긴다.

그는 이 곳에서 2년간 머무르면서, '피아노 2중주를 위한 슈만 주제 변주곡' (the Variations on a Theme of Schumann for Piano Duet, Op.23)과 '헨델 변주곡' (the Handel Variations, Op.24) 그리고 '피아노 4중주 1번' (Piano Quartet No.1, in G minor, Op.25)과 지금 소개하고 있는 '피아노 4중주 2번' (Piano Quartet No.2 in A major, Op.26)을 완성했다. 이 A장조 4중주는 그가 2년 동안 머물렀던 집의 친절한 주인 마님인 레징 (Frau Dr. Elisabeth Rossing)에게 헌정되었다.

피아노 4중주 2번은 50분에 육박하는 교향곡과 맞먹는 길이를 자랑하는 대작이다. 곡의 분위기는 마치 교향곡 2번이나 피아노 협주곡 2번을 연상시키듯이 목가적이며 밝은 여유와 사색이 담겨져 있다. 특히 2악장 아다지오는 브람스 최고의 우아하고 아름다운 영감으로 가득찬 악장이다. 낭만주의 정신을 초월하는 아름다움과, 브람스가 이곡을 스케치하기 바로 전해(1856년)에 죽은 그의 멘토인 슈만을 향한 그리움을 짙게 느낄 수 있는 편안하면서도 심오한 사색이 잘 담겨져 있다.

작품번호가 26으로 청년 시절 브람스의 작품이지만 그의 후기 작품을 예고하는듯 피아노 파트의 서정미가 참으로 인상적이다. 3악장이나 4악장은 발랄하지만, 같은 시기에 작곡한 4중주 1번과 같은 강렬한 에너지와는 달랐다.