שנת 1972, ימי ממשלת גולדה מאיר. ברחוב הישראלי - מחאת הפנתרים השחורים על אפליית המזרחים ותחילתן של פעולות מחאה נגד התמשכות השליטה בשטחים, שנכבשו ב-1967. תגובת המשטרה והרשויות לפעולות המחאה הייתה חריפה. מפגינים שעמדו במשמרות מחאה שקטות פוזרו בכוח, רבים נעצרו ואף הועמדו לדין על מימוש זכותם למחות. מספר עורכי דין ואקדמאים הרגישו שיש צורך בארגון עצמאי, לא מפלגתי, שיפעל למען הגנה על זכויות אזרחיות. הדגם שאליו שאפו היה של גוף בלתי-מפלגתי, דוגמת האיגוד האמריקאי לחירויות אזרחיות (ACLU - American Civil Liberties Union), שנוסד בידי ליברלים שנאבקו על חופש הביטוי בזמן מלחמת העולם הראשונה ומאז התפתח וצבר השפעה רבה בארצות הברית.
ב-1972 ייסדו אגודה עותומנית. בין המייסדים והפעילים בימים הראשונים: נסים רג'ואן, לן שרוטר, לסלי סבה, אליעזר יפה, מנחם אמיר, ארנסט סטוק, ברני רזניקוף, פרד וייסגל, דוד (דייב) קרצמר, דני עמית, עמוס שפירא, עקיבא ארנסט סימון, ירון לבנשטיין, אהרון אנקר. בין המייסדים היה משקל מכריע לאנשים בעלי רקע אנגלוסקסי. בניגוד לדימוי ה"שמאלני-חילוני", היו ביניהם לא מעט חובשי כיפה.
במפגש שנערך בבית שלום ברחוב אחד העם בירושלים, דנו בין היתר על שם הארגון, שלימים יעורר מחלוקות וביקורת. באותו זמן היה ארגון לא פעיל שנשא את השם "האגודה לזכויות האדם" ולכן היה צורך לבחור בשם שונה. המונח "זכויות אזרח" היה תרגום (לא מוצלח כל-כך, כפי שהתברר בדיעבד) למונח האמריקאי Civil Rights (נכון יותר לתרגמו ל"זכויות אזרחיות"). הוא נבחר כדי לאפיין את סוג הזכויות עליהן באה האגודה להגן – זכויות אזרח להבדיל מזכויות כספיות, רכושיות ואחרות. אולם השם עורר טעויות וטענות שבעלי הזכויות הם אזרחים בלבד, אף שהאגודה טיפלה – ועדיין מטפלת – בכל מי שזכויותיו הופרו, בין אם היה אזרח ובין אם לאו.
השנים הראשונות לא היו קלות. ההנהלה שהוקמה הייתה גוף חלש ולא מוגדר ולארגון לא היו עובדים. עיקר הפעילות היה טיפול בתלונות, הוצאת גילויי דעת לעיתונות ומשלוח משקיפים להפגנות כדי לוודא שהמשטרה אינה חורגת מסמכותה. ב-1974, עם הצטרפותה של רות גביזון ושובו של דייב קרצמר משהייה בת שנתיים מקנדה, החל
להיווצר גרעין קשה של אנשי הפקולטה למשפטים באוניברסיטה העברית, אשר העניקו לארגון צביון משפטי.
ב-1979 הצטרפה האגודה לליגה הבין-לאומית לזכויות האדם (International League for Human Rights), ארגון גג שמושבו בניו יורק.
וידאו: מושב "דור הראשונים" בכנס 50 שנה לאגודה: פרופ' דוד קרצמר, פרופ' פנינה להב, פרופ' מרדכי קרמניצר ועו"ד יהושע שופמן מספרים על השנים הראשונות
