[1차] 뉴스 클러스터링

원용현·2023년 2월 8일
0

프로그래머스

목록 보기
35/49

링크

https://school.programmers.co.kr/learn/courses/30/lessons/17677

문제

뉴스 클러스터링
여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

  • 카카오 첫 공채..'블라인드' 방식 채용
  • 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
  • 카카오, 블라인드 전형으로 신입 개발자 공채
  • 카카오 공채, 신입 개발자 코딩 능력만 본다
  • 카카오, 신입 공채.. "코딩 실력만 본다"
  • 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식
입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력 형식
입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

문제 풀이

자카드 유사도에 따라서 알고리즘을 구성하여 풀이하면 된다.

자카드 유사도 = 두 집합의 교집합 크기 / 두 집합의 합집합 크기

이것을 유념하며 알고리즘을 구성하는데 가장 먼저 두 글자로 구성된 문자열의 집합을 만들어준다. 이 작업에서 문자열에 공백, 특수문자, 숫자가 포함되지 않도록 걸러주는 과정이 필요하다.

두 개의 집합이 만들어졌다면 두 집합의 합집합과 교집합을 구해야한다.

이론상으로는 합집합을 만들때 Set객체를 사용하면 두 집합에서 겹치는 원소에 대해서 중복을 제거하기 때문에 Set 객체를 통해 만들면 쉽게 만들 수 있겠지만, 실제로 Set 객체를 사용하게되면 원하는 결과를 얻어낼 수 없다.

이유는 집합에서의 원소 중복 때문이다. 1번 집합에서 'aa'가 2개 존재하게 된다면 합집합을 만들게 될 경우에 'aa'를 하나로 만들어버리기 때문에 Set 객체의 사용이 불가능하다.

같은 개념으로 교집합을 만들 때 filter 함수를 사용하게 되면 원소의 중복에 대한 문제를 해결할 수가 없다.

따라서 합집합의 경우에는 1번 배열을 순서대로 실행하며 겹치는 원소를 2번 배열에서 삭제하는 방식으로 코드를 구성한 뒤에 1번 배열과 2번 배열을 합치는 방법으로 합집합을 구한다.

교집합의 경우에는 splice 함수를 이용하여 겹치는 원소 하나에 대해서만 잘라내고 잘라낸 원소를 push 하는 방식으로 코드를 구성한다. 이렇게 할 경우 중복되는 원소에 대해서도 대응이 가능해진다.

코드

function solution(str1, str2) {
    let arr1 = makeArr(str1.toLowerCase())
    let tempArr1 = [...arr1]
    let arr2 = makeArr(str2.toLowerCase())
    let tempArr2 = [...arr2]
    
    // 만들어진 두 배열에 원소가 없으면 65536을 return
    if(arr1.length === 0 && arr2.length === 0) return 65536
    
    // 원소의 중복 문제 때문에 아래의 코드 사용이 불가능
    // ---------------------------------------------------------------
    // 합집합 -> Set 객체의 특성을 이용
    // let union = [...new Set([...arr1, ...arr2])]
    // 교집합 -> 배열의 filter 함수 이용
    // let intersection = arr1.filter(el => arr2.includes(el));
    // ---------------------------------------------------------------
    
    // 합집합 -> 1번 배열에 반복을 진행하며 겹치는 원소를 하나 삭제하는 방식으로 코드를 작성, 1번 배열 완료 후 남은 2번 배열은 모두 추가
    for(let i = 0; i < arr1.length; i++) {
        if(arr2.indexOf(arr1[i]) != -1) {
            arr2.splice(arr2.indexOf(arr1[i]), 1)
        }
    }
    
    const union = [...arr1, ...arr2]
    
    // 교집합 -> 1번 배열에서 겹치는 원소를 삭제하고 새로운 배열에 push
    const intersection = []
    
    for(let i = 0; i < tempArr1.length; i++) {
        if(tempArr2.indexOf(tempArr1[i]) != -1) {
          intersection.push(...tempArr2.splice(tempArr2.indexOf(tempArr1[i]), 1))
        }
    }

    return Math.floor(65536 * (intersection.length / union.length))
}

// 문자열을 두 글자씩 잘라서 배열로 만들어주는 함수
const makeArr = (str) => {
    let strArr = str.split('')
    let result = []
    
    for(let i = 0; i < str.length - 1; i++) {
        const sum = strArr[i] + strArr[i + 1]
        // 공백, 특수문자, 숫자를 체크해서 모두 없으면 실행
        if(checkSpace(sum) && checkSpecial(sum) && checkNumber(sum)) {
            result.push(sum)
        }
    }
    return result
}

// 공백 체크
function checkSpace(str) {
	if(str.search(/\s/) != -1) {
		return false;
	} else {
		return true;
	}
}

// 특수 문자 체크
function checkSpecial(str) {
	const special_pattern = /[`~!@#$%^&*|\\\'\";:\/?+-=^_]/gi;

	if(special_pattern.test(str) === true) {
		return false;
	} else {
		return true;
	}
}
    
// 숫자 체크
function checkNumber(str) {
	const number_pattern = /[0-9]/;

	if(number_pattern.test(str) === true) {
		return false;
	} else {
		return true;
	}
}

0개의 댓글